O projeto llama.cpp lançou a versão b10066, introduzindo suporte ao kernel `kernel_gemm_moe_q6_k_f32_ns` via OpenCL. Esta atualização permite o carregamento e uso desta biblioteca de kernels binários específica dentro do framework.

  • O lançamento inclui binários para macOS (Apple Silicon e Intel), iOS, Linux (Ubuntu x64, arm64, s390x com CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16), Windows (CPU, Vulkan, CUDA 12/13, OpenVINO, SYCL, HIP) e Android.
  • O suporte do KleidiAI para macOS Apple Silicon está desativado nesta compilação.
  • O suporte ao openEuler também está desativado para este lançamento.

Esta atualização fornece aos usuários uma compatibilidade mais ampla com hardware por meio da nova implementação do kernel OpenCL.