O projeto llama.cpp lançou a compilação b9888, que inclui uma atualização do CUDA para estender a validação do tipo K para os tipos V no flash attention.

  • As compilações para macOS Apple Silicon estão disponíveis, mas o suporte ao KleidiAI está desativado.
  • Os binários do Linux cobrem CPU, Vulkan, ROCm 7.2, OpenVINO e SYCL nas arquiteturas x64, arm64 e s390x.
  • As versões para Windows incluem variantes de CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP.
  • São fornecidas compilações do Android arm64 (CPU) e iOS XCFramework.
  • O suporte ao openEuler está parcialmente desativado para as arquiteturas x86 e aarch64.

Esta versão fornece binários atualizados em várias plataformas e aceleradores de hardware.