Проект llama.cpp выпустил сборку b10864, которая включает исправление логики вытеснения интервалов контрольных точек в `create_checkpoint()`. Ранее правило вытеснения сохраняло самую старую контрольную точку и удаляло более поздние в пределах `checkpoint_min_step`, из-за чего промпты короче этого порога теряли необходимую для возобновления работу контрольную точку. Это заставляло гибридные и рекуррентные модели без необходимости заново префилировать данные из предыдущей контрольной точки.
Обновление изменяет правило интервалов так, чтобы оно применялось только тогда, когда список контрольных точек заполнен (при `n_ctx_checkpoints`). Оно также заменяет существующие контрольные точки с тем же `n_tokens` вместо добавления дубликатов, обеспечивая правильное состояние для последующих запросов. Релиз предоставляет бинарные файлы для macOS, Linux, Windows, Android и openEuler для CPU, GPU и различных ускорителей.