Le projet llama.cpp a publié la version b10020, qui inclut une correction pour la fonction get_rows du backend SYCL affectant les formats de quantification Q2_K, Q4_K et Q5_K.

  • Builds macOS/iOS fournis pour Apple Silicon (arm64), Intel (x64) et iOS XCFramework, avec KleidiAI désactivé sur Apple Silicon.
  • Binaires Linux disponibles pour Ubuntu x64, arm64 et s390x CPU, ainsi que les variantes Vulkan, ROCm 7.2, OpenVINO et SYCL FP32/FP16.
  • Build Android arm64 CPU inclus.
  • Les versions Windows couvrent les CPU x64 et arm64, OpenCL Adreno, CUDA 12.4 et 13.3, Vulkan, OpenVINO, SYCL et HIP.
  • Le support openEuler est partiellement désactivé, avec des builds disponibles pour x86 (310p, 910b ACL Graph) et aarch64 (310p, 910b ACL Graph).
  • Un binaire UI autonome est également fourni.

Cette version assure une compatibilité matérielle plus large sur plusieurs systèmes d'exploitation et accélérateurs tout en corrigeant des problèmes spécifiques de quantification SYCL.