Para peneliti memperkenalkan CliffCompaction, teknik autokompresi yang dirancang untuk agen yang menangani jutaan token, yang memangkas biaya hingga 50% dalam konteks terbatas. Metode ini mempertahankan atau meningkatkan kinerja pada Terminal-Bench dan mencapai hasil terbaik di KernelBench dengan menjaga informasi tetap setia melalui pemotongan alih-alih parafrase.

  • CliffCompaction menambah lebih dari 10 poin persentase pada Terminal-Bench dengan biaya kurang dari dua kali jalanan konteks penuh.
  • Di bawah penskalaan waktu pengujian paralel, metode ini memungkinkan Kimi K2.6 menyamai Opus 4.7 dan melampaui Opus 4.6 serta GPT-5.3 Codex dengan biaya lebih rendah.
  • Teknik ini mencegah pergeseran konteks dengan tidak pernah mengompresi kompresi, beroperasi hanya pada konten asli dan membuang output sebelumnya.
  • Pada KernelBench, metode ini mencapai percepatan kernel CUDA sebesar $2.23 imes$ setelah 200 langkah dan $3.58 imes$ setelah 400 langkah.
  • Implementasi API-proxy yang agnostik terhadap kerangka kerja telah dibuka secara sumber terbuka untuk digunakan dengan Claude Code, Codex, dan alat lainnya.

CliffCompaction membuat trade-off kinerja-biaya dari penskalaan waktu pengujian lebih efisien dan mempertahankan pembelajaran berkelanjutan selama sesi yang melebihi satu juta token.