O projeto llama.cpp lançou a compilação b10576, que readiciona os kernels MMVQ reordenados Q2_K e ESIMD para suporte a SYCL. Esta alteração reverte efetivamente um commit anterior que havia removido essas implementações específicas de kernels.

  • O lançamento inclui binários para macOS (Apple Silicon e Intel), Linux (Ubuntu x64, arm64, s390x), Windows e Android.
  • A aceleração de GPU é suportada via Vulkan, ROCm 7.14, OpenVINO, CUDA 12/13 e SYCL em várias plataformas.
  • O suporte ao macOS KleidiAI permanece desativado nesta compilação.

Esta atualização restaura kernels de quantização específicos para dispositivos SYCL, fornecendo simultaneamente binários abrangentes para vários sistemas operacionais e aceleradores de hardware.