El proyecto llama.cpp lanzó la compilación b9888, que incluye una actualización de CUDA para extender la validación del tipo K a los tipos V para flash attention.

  • Las compilaciones para macOS Apple Silicon están disponibles, pero el soporte de KleidiAI está desactivado.
  • Los binarios de Linux cubren CPU, Vulkan, ROCm 7.2, OpenVINO y SYCL en las arquitecturas x64, arm64 y s390x.
  • Las versiones para Windows incluyen variantes de CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP.
  • Se proporcionan compilaciones de Android arm64 (CPU) e iOS XCFramework.
  • El soporte de openEuler está parcialmente desactivado para las arquitecturas x86 y aarch64.

Esta versión proporciona binarios actualizados en múltiples plataformas y aceleradores de hardware.