llama.cppプロジェクトはバージョンb10020をリリースしました。これには、Q2_K、Q4_K、Q5_K量子化形式に影響を与えるSYCLバックエンドのget_rows関数の修正が含まれています。

  • Apple Silicon (arm64)、Intel (x64)、およびiOS XCFramework向けのmacOS/iOSビルドが提供され、Apple SiliconではKleidiAIが無効になっています。
  • Ubuntu x64、arm64、s390x CPU向けにLinuxバイナリが利用可能で、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16バリアントも含まれます。
  • Android arm64 CPUビルドが含まれています。
  • Windowsリリースはx64およびarm64 CPU、OpenCL Adreno、CUDA 12.4および13.3、Vulkan、OpenVINO、SYCL、HIPをカバーしています。
  • openEulerのサポートは部分的に無効化されており、x86 (310p, 910b ACL Graph) および aarch64 (310p, 910b ACL Graph) 向けのビルドが利用可能です。
  • スタンドアロンUIバイナリも提供されています。

このリリースにより、複数のOSとアクセラレータにわたるより広いハードウェア互換性が確保され、特定のSYCL量子化の問題が修正されました。