Проект llama.cpp выпустил версию b10066, добавившую поддержку ядра `kernel_gemm_moe_q6_k_f32_ns` через OpenCL. Это обновление позволяет загружать и использовать эту конкретную библиотеку бинарных ядер в рамках фреймворка.

  • В релиз включены бинарные файлы для macOS (Apple Silicon и Intel), iOS, Linux (Ubuntu x64, arm64, s390x с CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16), Windows (CPU, Vulkan, CUDA 12/13, OpenVINO, SYCL, HIP) и Android.
  • Поддержка KleidiAI для macOS Apple Silicon отключена в этой сборке.
  • Поддержка openEuler также отключена в этом релизе.

Это обновление предоставляет пользователям более широкую совместимость с оборудованием благодаря новой реализации ядра OpenCL.