llama.cpp プロジェクトはバージョン b9825 をリリースしました。このバージョンには、ゼロ入力を処理する際の Vulkan ステップ演算子の修正が含まれています。このアップデートにより、macOS、Linux、Windows、Android、openEuler 向けに、さまざまなハードウェアバックエンド用のビルド済みバイナリが提供されます。

  • macOS Apple Silicon (arm64) および Intel (x64) ビルドが利用可能ですが、KleidiAI サポートは無効化されています。
  • Linux バイナリは CPU (x64, arm64, s390x)、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16 をカバーしています。
  • Windows リリースには CPU、OpenCL Adreno、CUDA 12.4 および 13.3、Vulkan、OpenVINO、SYCL、HIP バックエンドが含まれています。
  • モバイル展開用に Android arm64 (CPU) と iOS XCFramework ビルドが提供されています。
  • openEuler サポートには ACL Graph を使用する x86 および aarch64 変種が含まれていますが、メインのプルリクエストは無効化としてマークされています。

このリリースにより、異なるオペレーティングシステムとハードウェアアクセラレータ全体でより広い互換性が確保され、特定の Vulkan 実行エラーが修正されました。