Pesquisadores apresentam o CliffCompaction, uma técnica de autocompactação projetada para agentes que lidam com milhões de tokens, que corta custos em até 50% sob contexto limitado. O método mantém ou melhora o desempenho no Terminal-Bench e alcança resultados de estado da arte no KernelBench ao manter a fidelidade das informações por meio de truncamento em vez de reformulação.

  • CliffCompaction adiciona mais de 10 pontos percentuais no Terminal-Bench por menos do que o custo de duas execuções de contexto completo.
  • Sob escalonamento paralelo no tempo de teste, permite que o Kimi K2.6 iguale o Opus 4.7 e supere o Opus 4.6 e o GPT-5.3 Codex com menor custo.
  • A técnica evita a derivação do contexto ao nunca compactar uma compactação, operando apenas no conteúdo original e descartando saídas anteriores.
  • No KernelBench, alcança acelerações de kernel CUDA de $2.23 imes$ após 200 etapas e $3.58 imes$ após 400 etapas.
  • Uma implementação de API-proxy agnóstica ao scaffold foi lançada como código aberto para uso com Claude Code, Codex e outros harnesses.

CliffCompaction torna a compensação entre desempenho e custo do escalonamento no tempo de teste mais eficiente e sustena o aprendizado contínuo em sessões que excedem um milhão de tokens.