llama.cpp プロジェクトはバージョン b9814 をリリースしました。このバージョンには、AMD mi50 GPU に特化した Vulkan における `mul_mat_vecq` 演算の最適化が含まれています。このアップデートには、複数のオペレーティングシステムとハードウェアアーキテクチャにわたる包括的なプリビルドバイナリセットも同梱されています。

  • macOS Apple Silicon (arm64) および Intel (x64) ビルドが利用可能で、Apple Silicon 向けには KleidiAI サポートが無効化されています。
  • Linux バイナリは Ubuntu x64 および arm64 CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16 バリアントをカバーしています。
  • Windows リリースには CPU、OpenCL Adreno、CUDA 12.4 および 13.3、Vulkan、OpenVINO、SYCL、HIP ベンドが含まれています。
  • Android arm64 (CPU) と openEuler x86/aarch64 ビルドが 310p および 910b チップ向けに提供されており、openEuler x86 スタンダードビルドは無効化されています。

このリリースにより、ユーザーは AMD GPU 向けの特定の最適化を含む、幅広いハードウェア構成で llama.cpp を実行できるようになります。