llama.cppプロジェクトは、SYCLにおけるノーマライゼーション関数に関連するユニットテストケースの失敗を修正したb9826リリースを発表しました。このアップデートでは、複数のプラットフォームとハードウェアアクセラレータにわたってビルド済みバイナリとフレームワークが提供されます。

  • macOS Apple Silicon (arm64) および Intel (x64) 用のバイナリが利用可能ですが、KleidiAIのサポートは無効化されています。
  • Linuxビルドは、CPU向けにUbuntu x64、arm64、s390xをカバーし、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16に対応しています。
  • Windowsリリースには、CPU、OpenCL Adreno、CUDA 12.4および13.3、Vulkan、OpenVINO、SYCL、HIPの各バリアントが含まれます。
  • モバイルデプロイメント用にAndroid arm64 (CPU) バイナリとiOS XCFrameworkが提供されます。
  • x86およびaarch64アーキテクチャ向けのopenEulerビルドがリストされており、一部の構成は無効化としてマークされています。

このリリースにより、さまざまなGPUバックエンドとCPUアーキテクチャに対して特定のバイナリを提供することで、より広範なハードウェア互換性が確保されます。