llama.cpp プロジェクトはビルド b10011 をリリースしました。これには、サーバーのプロンプトキャッシュ状態の所有権に関するリファクタリングが含まれています。この更新により、プロンプト状態データが `server_prompt_cache` に移動され、プロンプトクリア時にチェックポイントがクリアされるようになりました。

  • サーバー: バッチ処理されたスロットのクリアを処理
  • macOS/iOS: Apple Silicon (arm64)、Intel (x64)、および iOS XCFramework 用のビルド; Apple Silicon 上の KleidiAI は無効化
  • Linux: Ubuntu x64/arm64/s390x CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16 用のバイナリ
  • Android: arm64 CPU バイナリ
  • Windows: CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、および HIP のバイナリ
  • openEuler: 310p および 910b (ACL Graph) 用の x86 と aarch64 ビルド; x86 ビルドは無効化
  • UI: 標準 UI バイナリ