llama.cpp プロジェクトはビルド b10662 をリリースし、unified KV キャッシュに対してスロットごとのコンテキストを指定できるようにする新しい `--kv-unified-per-slot` 引数を導入しました。この変更は、以前のコンテキスト比率メカニズムをコンテキストプールスロットに置き換え、基盤の実装をリファクタリングします。
- unified KV キャッシュの割り当てをより細かく管理するための `ctx-per-slot` 引数を追加します。
- メモリ管理ロジックを改善するために、ctx 比率を ctx プールスロットに置き換えます。
- 非推奨の `ctx-pool-slots` パラメータを削除し、`ctx-per-slot` を整数型に変換します。
- Xuan Son Nguyen による一般的なフォーマットクリーンアップとコードリファクタリングが含まれています。
このアップデートにより、ユーザーは unified KV キャッシュシステム内の複数のスロットにわたってコンテキストウィンドウの配布をより細かく制御できるようになります。