El proyecto llama.cpp ha lanzado la versión b10020, que incluye una corrección para la función get_rows del backend SYCL que afecta a los formatos de cuantización Q2_K, Q4_K y Q5_K.

  • Compilaciones para macOS/iOS proporcionadas para Apple Silicon (arm64), Intel (x64) e iOS XCFramework, con KleidiAI deshabilitado en Apple Silicon.
  • Binarios de Linux disponibles para CPUs Ubuntu x64, arm64 y s390x, además de variantes Vulkan, ROCm 7.2, OpenVINO y SYCL FP32/FP16.
  • Se incluye compilación de CPU arm64 para Android.
  • Las versiones para Windows cubren CPUs x64 y arm64, OpenCL Adreno, CUDA 12.4 y 13.3, Vulkan, OpenVINO, SYCL e HIP.
  • El soporte de openEuler está parcialmente deshabilitado, con compilaciones disponibles para x86 (310p, 910b ACL Graph) y aarch64 (310p, 910b ACL Graph).
  • También se proporciona un binario de interfaz de usuario independiente.

Este lanzamiento asegura una mayor compatibilidad de hardware entre múltiples sistemas operativos y aceleradores, mientras corrige problemas específicos de cuantización de SYCL.