llama.cpp プロジェクトはビルド b10864 をリリースしました。これには `create_checkpoint()` 内のチェックポイント間隔_eviction_ロジックの修正が含まれています。以前、_eviction_ルールは最も古いチェックポイントを保持し、`checkpoint_min_step` 内の後のチェックポイントを消去していました。その結果、この閾値より短いプロンプトは再開に必要なチェックポイントを失いました。これにより、ハイブリッドおよび再帰モデルは前のチェックポイントから不要にプリフィルする必要がありました。
更新では、チェックポイントリストが満杯の場合（`n_ctx_checkpoints` で）のみ間隔ルールを適用するように変更されました。また、重複を追加するのではなく、同じ `n_tokens` の既存のチェックポイントを置き換え、後続のリクエストに対して正しい状態を保証します。リリースでは、CPU、GPU、および各種アクセラレータバックエンド向けに macOS、Linux、Windows、Android、openEuler 用のバイナリが提供されています。