作者为代理式LLM系统引入了共享选择性持久内存,以解决会话从零开始时发生的上下文丢失问题。该架构识别并保留可重用的上下文——如任务规范、数据模式、工具配置和输出约束——同时丢弃与特定会话相关的推理轨迹。

  • 在三个企业场景中实现了96%的任务完成率,相比之下,无记忆时为79%,完整历史记录时为71%。
  • 实现了零token数据刷新机制,将生成的程序与运行时数据解耦,使任务时间减少14倍。
  • 通过基于摘要的生成,将每次调用的token成本降低了97倍,优于原始数据注入。
  • 在四个公开数据集上展示了泛化能力,零token刷新在所有12次试验中均成功。

该方法实现了工作区的协作重用,无需冗余规范,并避免了因朴素的全历史记录持久化导致的性能下降。