AI TaskVector 讨论:缓存选项与工作流状态如何核验
围绕这个仍处测试阶段的本地多智能体项目,PaulSff 介绍工作流与历史的分离设计,nootxlm 和 John6666 则提出状态注入、缓存含义与测试覆盖方面的具体核查建议。
社区观察 · Hugging Face · 原文日期 2026-11-08
工作流图与两轮对话历史
PaulSff 解释,工作流图和对话历史采用不同结构,图中包含节点、连接等项目,并有版本控制。多数内置角色只保留当前与上一轮历史;当前工作流版本和历史每轮都会进入 RAG,供后续消息检索。这说明了开发者所述的存储边界,但尚不能据此确认每个角色都能完整获得当前状态。
检索建议能否承载当前状态
nootxlm 赞同这种分离,却提醒最后的检索环节可能破坏它:若当前工作流也靠排序结果进入提示词,节点、连接或待办可能落选,也可能与旧版本并列。他建议每轮直接注入完整当前工作流,把检索用于历史和知识。这是针对潜在路径的建议,不能写成已确认发生的状态丢失。
两种缓存选项含义不同
John6666 则把核查重点放在新增推理选项。他指出,Ollama 的 keep_alive 控制模型驻留时长,并不保证跨请求命中 KV 缓存;llama.cpp 的 cache_prompt 能否复用匹配前缀,还取决于实际词元序列与缓存、槽位条件。按他的解释,开放这些配置选项本身不足以证明延迟改善。
往返测试先确认夹具被执行
John6666 还称,他检查的较早版本往返测试有路径重新导入原始输入,比较也未充分覆盖参数值;缺少夹具时,脚本仍成功退出。他明确将其归为测试覆盖问题,而非转换器损坏证据。建议从非空夹具开始,实际导出再导入,并检查参数值、连接端口及受支持的代码块。
原始标题:AI TaskVector - building a local multi-agent platform for automations, coding and personal use
来源:Hugging Face