llama.cpp プロジェクトはバージョン b10066 をリリースし、OpenCL を介して `kernel_gemm_moe_q6_k_f32_ns` カーネルのサポートを導入しました。このアップデートにより、フレームワーク内でこの特定のバイナリカーネルライブラリの読み込みと使用が可能になります。

  • リリースには、macOS (Apple Silicon および Intel)、iOS、Linux (Ubuntu x64、arm64、s390x with CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16)、Windows (CPU、Vulkan、CUDA 12/13、OpenVINO、SYCL、HIP)、Android 用のバイナリが含まれています。
  • このビルドでは、macOS Apple Silicon に対する KleidiAI のサポートが無効になっています。
  • このリリースでは openEuler のサポートも無効になっています。

このアップデートにより、新しい OpenCL カーネル実装を通じて、ユーザーはより広範なハードウェア互換性を利用できるようになります。