llama.cpp プロジェクトは、ggml ライブラリとの同期を含むバージョン b9816 をリリースしました。このアップデートでは、macOS、iOS、Linux、Windows、Android、openEuler のプラットフォーム向けにビルド済みバイナリが提供されます。

  • macOS 向けには Apple Silicon (arm64) および Intel (x64) のビルドが利用可能ですが、KleidiAI サポートは無効化されています。
  • Linux バイナリには、Ubuntu x64 および arm64 CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16 版が含まれます。
  • Windows リリースには、CPU、CUDA 12.4/13.3、Vulkan、OpenVINO、SYCL、HIP、および OpenCL Adreno オプションが含まれます。
  • モバイルデプロイメント向けに、Android arm64 (CPU) および iOS XCFramework バイナリが提供されます。
  • openEuler サポートには ACL Graph を備えた x86 および aarch64 ビルドが含まれますが、標準の openEuler は無効化されています。

このリリースにより、最新の ggml バックエンドを使用して、llama.cpp を多様なハードウェアアーキテクチャおよびオペレーティングシステムで実行することが可能になります。