Проект llama.cpp выпустил сборку b10662, вводя новую аргумент `--kv-unified-per-slot`, позволяющий пользователям указывать контекст на слот для единого KV кэша. Это изменение заменяет предыдущий механизм доли контекста на слоты пула контекста и рефакторит базовую реализацию.
- Добавляет аргумент `ctx-per-slot` для более детального управления выделением единого KV кэша.
- Заменяет доли контекста на слоты пула контекста для улучшения логики управления памятью.
- Удаляет устаревший параметр `ctx-pool-slots` и преобразует `ctx-per-slot` в целочисленный тип.
- Включает общую очистку форматирования и рефакторинг кода от Xuan Son Nguyen.
Это обновление предоставляет пользователям более тонкий контроль над распределением окна контекста между несколькими слотами в системе единого KV кэша.