Proyek llama.cpp telah merilis versi b10066, memperkenalkan dukungan untuk kernel `kernel_gemm_moe_q6_k_f32_ns` melalui OpenCL. Pembaruan ini memungkinkan pemuatan dan penggunaan pustaka kernel biner spesifik ini dalam kerangka kerja.

  • Rilis ini mencakup biner untuk macOS (Apple Silicon dan Intel), iOS, Linux (Ubuntu x64, arm64, s390x dengan CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16), Windows (CPU, Vulkan, CUDA 12/13, OpenVINO, SYCL, HIP), dan Android.
  • Dukungan KleidiAI untuk macOS Apple Silicon dinonaktifkan dalam build ini.
  • Dukungan openEuler juga dinonaktifkan untuk rilis ini.

Pembaruan ini memberikan kompatibilitas perangkat keras yang lebih luas kepada pengguna melalui implementasi kernel OpenCL baru.