연구원들은 수백만 개의 토큰을 처리하는 에이전트를 위해 설계된 자동 압축 기법인 CliffCompaction을 소개했으며, 이는 제한된 컨텍스트 하에서 비용을 최대 50%까지 절감합니다. 이 방법은 Terminal-Bench에서 성능을 유지하거나 향상시키며, 재표현이 아닌 잘라내기를 통해 정보를 정확하게 유지함으로써 KernelBench에서 최첨단 결과를 달성했습니다.

  • CliffCompaction은 두 번의 전체 컨텍스트 실행 비용보다 적게 들면서 Terminal-Bench에서 10퍼센트 포인트 이상을 향상시킵니다.
  • 병렬 테스트 타임 스케일링 하에서 Kimi K2.6이 Opus 4.7과 동등한 성능을 달성하고, 더 낮은 비용으로 Opus 4.6 및 GPT-5.3 Codex를 능가합니다.
  • 이 기법은 압축된 내용을 다시 압축하지 않고 원본 콘텐츠에만 작동하여 이전 출력을 버리므로 컨텍스트 드리프트를 방지합니다.
  • KernelBench에서 200단계 후 CUDA 커널 속도 향상은 $2.23 imes$, 400단계 후에는 $3.58 imes$에 도달합니다.
  • Claude Code, Codex 및 기타 하니스와 함께 사용할 수 있는 스캐폴드 비구현 API-프록시 구현이 오픈소스로 공개되었습니다.

CliffCompaction은 테스트 타임 스케일링의 성능-비용 트레이드오프를 더 효율적으로 만들고, 백만 개 이상의 토큰을 초과하는 세션에 걸쳐 지속적인 학습을 유지합니다.