Le projet llama.cpp a publié la version b9994, qui introduit le support de la quantification Q2_0 via la demande de tirage #25419. Cette mise à jour fournit des binaires préconstruits pour macOS, Linux, Windows, Android et openEuler sur divers backends matériels.

  • Ajout du support Q2_0 au backend metal.
  • Désactivation du support KleidiAI pour les builds Apple Silicon de macOS/iOS.
  • Fourniture de binaires pour CPU, Vulkan, CUDA (12.4 et 13.3), ROCm, OpenVINO, SYCL, HIP et OpenCL Adreno.
  • Inclusion des packages iOS XCFramework et UI dans la release.