llama.cpp プロジェクトはビルド b9984 をリリースしました。これには、プルリクエスト #25064 経由で DMMV リオーダーパスへの Q2_K 量子化サポートを追加する変更が含まれています。

  • macOS/iOS: Apple Silicon (arm64)、Intel (x64)、および iOS XCFramework 用のバイナリが提供されます。Apple Silicon では KleidiAI が無効になっています。
  • Linux: Ubuntu x64、arm64、s390x CPU 向けビルドに加え、Vulkan、ROCm 7.2、OpenVINO、SYCL (FP32/FP16) バックエンド用のビルドが利用可能です。
  • Android: arm64 用 CPU バイナリが提供されています。
  • Windows: x64 および arm64 CPU 向けバイナリ、OpenCL Adreno、CUDA 12.4 および 13.3、Vulkan、OpenVINO、SYCL、HIP 用のバイナリがリリースされました。
  • openEuler: ACL Graph を用いた x86 (310p, 910b) と aarch64 (310p, 910b) のサポートが含まれていますが、メインのプルリクエストは無効としてマークされています。

このリリースでは、主要なオペレーティングシステムとハードウェアアクセラレーター全体で更新されたバイナリが提供され、互換性のある SYCL ビルドにおいて DMMV リオーダーパスでの Q2_K 量子化を可能にします。