Выпуск llama.cpp b9978 устраняет проблему с чекпоинтингом, негативно влиявшую на агентные нагрузки. Ранее каждый ход агента создавал новый чекпоинт независимо от минимального интервала шагов, что сужало окно покрытия.
- Откаты контекста, типичные для циклов вызова инструментов, стирали все чекпоинты и требовали полной переработки.
- Исправление гарантирует, что близко расположенные чекпоинты от предыдущих задач вытесняются, чтобы сохранить окно широким.
- Эта оптимизация позволяет длинным сессиям агентов оставаться быстрыми.
Обновление устраняет проблему коллапса чекпоинтов, улучшая производительность многоходовых агентных приложений.