El proyecto llama.cpp lanzó la compilación b9932, que incluye una optimización de Vulkan que desactiva la función FA mask_opt en las arquitecturas GCN para mejorar el rendimiento.

  • La actualización reactiva mask opt para tamaños de cabezal de atención mayores que 256.
  • Las compilaciones de macOS Apple Silicon con KleidiAI están desactivadas en esta versión.
  • Se proporcionan binarios para Ubuntu (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), Android y macOS Intel.
  • El soporte de openEuler está parcialmente desactivado; las compilaciones x86 y aarch64 están disponibles para configuraciones de hardware específicas.