研究人员引入了上下文语言模型（CLM），这是一种新架构，将模型的上下文窗口视为可编辑的文件，允许模型对其自身记忆进行无限制的更新。这种方法将上下文管理从外部控制框架转移到模型内在行为，实现了上下文管理策略的上下文中学习和参数化学习。

  • 零样本 CLM 在上下文管理策略上优于最先进的方法，在 BrowseComp-Plus 上准确率提高了 11.4%，FLOPs 减少了 21.5%；在 12-hour EdgeBench 上得分提高了 5%，FLOPs 减少了 59%。
  • 在为期 24 小时的多仓库智能体集群任务中，与基线相比，CLM 在相同计算量下表现出 65% 的更大改进。
  • 通过技能优化循环进化的自然语言指令引导 CLM，在上下文管理任务上将保留数据的准确率提高了多达 35.9 分，同时减少了计算量。
  • 一种在线强化学习方法使 Qwen3.5-9B 在 BrowseComp-Plus 上的性能提高了 47.6%，同时 FLOPs 减少了 12%。
  • 为 CLM 服务协同设计的 Suffix Cache Reuse 在性能匹配的情况下，将服务器端计算量相对于标准 SGLang 降低了 35%。

通过允许模型学习在上下文中维持最重要的内容，CLM 自然地扩展到多智能体系统，其中多个智能体的上下文作为文件共存。