研究人员介绍了 MemCon，这是一个将内存操作建模为马尔可夫决策过程（MDP）的框架，用于在 LLM 智能体中学习自适应检索和整合的在线策略。与静态启发式方法不同，该方法根据上下文动态决定何时以及检索多少内容。

  • MemCon 包装任何现有的内存实现，并通过任务级的二元反馈进行学习，无需预训练或额外的 LLM 调用。
  • 它使用带有 UCB 探索的轻量级表格上下文多臂老虎机，在数十个任务内收敛。
  • 在 6 个基准测试、3 个智能体框架和 3 个 LLM 骨干网络中，MemCon 在任务成功率上比基线方法高出多达 15.2 分。
  • 该方法在提升性能的同时将 token 消耗减少了 5--20%。

MemCon 通过允许智能体自适应地管理经验积累和计划重用，解决了固定内存访问的瓶颈问题。