llama.cpp プロジェクトはバージョン b9810 をリリースし、HIP/MUSA ベンダーヘッダーに `cublasSgemmBatched` の CUDA マッピングを導入しました。このアップデートには、macOS、Linux、Windows、Android、openEuler プラットフォーム向けの包括的なビルド済みバイナリセットも含まれています。

  • プルリクエスト #25033 により、HIP/MUSA ベンダーヘッダー用の cublasSgemmBatched マッピングを追加。
  • macOS Apple Silicon ビルドにおける KleidiAI サポートを無効化。
  • Ubuntu x64/arm64/s390x 向けバイナリを提供（CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16）。
  • Windows 向けビルドに CPU、OpenCL Adreno、CUDA 12.4/13.3、Vulkan、OpenVINO、SYCL、HIP を含める。
  • iOS XCFramework、Android arm64 (CPU)、macOS Apple Silicon/Intel のバイナリをリリース。

今回のリリースでは、ROCm、SYCL、OpenVINO などの各種アクセラレーター用と標準 CPU 版のビルドを提供することで、広範なハードウェア互換性を確保しています。