Исследователи представляют CliffCompaction, метод автокомпактизации, разработанный для агентов, обрабатывающих миллионы токенов, который сокращает затраты до 50% в условиях ограниченного контекста. Метод сохраняет или улучшает производительность на Terminal-Bench и достигает лучших результатов на KernelBench за счёт сохранения точности информации при усечении, а не перефразировании.

  • CliffCompaction добавляет более 10 процентных пунктов к результату на Terminal-Bench при стоимости менее двух полных запусков с полным контекстом.
  • При параллельном масштабировании во время тестирования он позволяет Kimi K2.6 сравняться с Opus 4.7 и превзойти Opus 4.6 и GPT-5.3 Codex при более низкой стоимости.
  • Техника предотвращает дрейф контекста, никогда не компактизуя саму компактизацию, работая только с исходным контентом и отбрасывая предыдущие выходные данные.
  • На KernelBench она достигает ускорения CUDA-ядер в $2.23 imes$ после 200 шагов и в $3.58 imes$ после 400 шагов.
  • Реализация API-прокси, не зависящая от структуры, опубликована как открытый код для использования с Claude Code, Codex и другими фреймворками.

CliffCompaction делает компромисс между производительностью и стоимостью при масштабировании во время тестирования более эффективным и поддерживает непрерывное обучение в рамках сессий, превышающих миллион токенов.