Le projet llama.cpp a publié la version b10066, introduisant le support du noyau `kernel_gemm_moe_q6_k_f32_ns` via OpenCL. Cette mise à jour permet le chargement et l'utilisation de cette bibliothèque de noyaux binaires spécifique au sein du framework.

  • La release inclut des binaires pour macOS (Apple Silicon et Intel), iOS, Linux (Ubuntu x64, arm64, s390x avec CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16), Windows (CPU, Vulkan, CUDA 12/13, OpenVINO, SYCL, HIP) et Android.
  • Le support de KleidiAI pour macOS Apple Silicon est désactivé dans cette compilation.
  • Le support d'openEuler est également désactivé pour cette release.

Cette mise à jour offre aux utilisateurs une compatibilité matérielle plus large grâce à la nouvelle implémentation du noyau OpenCL.