llama.cppプロジェクトはバージョンb9925をリリースしました。このリリースにはCUDAバックエンドへの特定の変更が含まれています。本リリースでは、GPUカーネルのカバレッジにおけるギャップを解消するため、f16からf16へのGGML_OP_SET_ROWS操作のサポートが追加されました。

  • macOS用Apple SiliconおよびIntel向けバイナリが提供されます。Apple SiliconではKleidiAIが明示的に無効化されています。
  • LinuxビルドにはCPU（x64、arm64、s390x）と、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16を含む各種アクセラレータが含まれます。
  • WindowsリリースにはCPU、OpenCL Adreno、Vulkan、HIP、OpenVINO、SYCL、CUDA 12/13の各バリエーションが含まれます。
  • モバイルデプロイメント用にAndroid arm64（CPU）およびiOS XCFrameworkバイナリが利用可能です。
  • openEulerサポートは部分的に無効化されており、ACL Graphを使用するx86およびaarch64アーキテクチャ向けの特定ビルドが保持されています。

このアップデートにより、CUDAデバイスでの欠落していたset rows操作の有効化と主要OSおよびGPUベンダー全体でのプリコンパイル済みバイナリの提供により、llama.cppユーザーのより広範なハードウェア互換性が確保されます。