研究人员推出了 CliffCompaction,这是一种专为处理数百万 token 的智能体设计的自动压缩技术,可在有界上下文下将成本降低高达 50%。该方法通过在截断而非改写时保持信息忠实度,在 Terminal-Bench 上维持或提升了性能,并在 KernelBench 上取得了最先进结果。

  • CliffCompaction 在不到两次完整上下文运行成本的情况下,为 Terminal-Bench 带来了超过 10 个百分点的提升。
  • 在并行测试时扩展下,它使 Kimi K2.6 以更低成本匹配 Opus 4.7,并超越 Opus 4.6 和 GPT-5.3 Codex。
  • 该技术通过从不压缩压缩结果、仅对原始内容进行操作并丢弃先前输出来防止上下文漂移。
  • 在 KernelBench 上,经过 200 步后 CUDA 内核加速达到 $2.23 imes$,经过 400 步后达到 $3.58 imes$。
  • 一种与框架无关的 API 代理实现已开源,可用于 Claude Code、Codex 及其他工具链。

CliffCompaction 使测试时扩展的性能成本权衡更加高效,并支持超过一百万 token 会话的持续学习。