El proyecto llama.cpp ha lanzado la versión b10539, que aborda un problema crítico de estabilidad numérica en el backend de Vulkan mientras expande el soporte de hardware para usuarios de Windows.

  • Vulkan FA MMQ ahora utiliza fp32 para los cálculos de cuantización Q para evitar desbordamientos cuando qd es un denorm.
  • Se han añadido binarios para Windows x64 para CUDA 13 y soporte preliminar para Windows arm64 con CUDA 13.4.
  • Se incluyen compilaciones para Ubuntu s390x (CPU), macOS Intel (x64) e iOS XCFramework.
  • El soporte de OpenCL Adreno ya está disponible para Windows arm64.

Esta actualización garantiza un rendimiento fiable en dispositivos Vulkan al prevenir errores aritméticos y proporciona a los usuarios las últimas opciones de compatibilidad con CUDA 13.