Le projet llama.cpp a publié la version b9992, qui inclut un refactor de la configuration du noyau MMQ.

Cette mise à jour adresse et corrige spécifiquement la configuration pour l'architecture Blackwell de NVIDIA tout en supprimant le code legacy.

  • Configuration du noyau MMQ refactorisée pour améliorer le support CUDA.
  • Correction des problèmes de configuration des GPU Blackwell.
  • Suppression du code legacy du codebase.

Cette version fournit des binaires mis à jour pour macOS, Linux, Windows, Android et openEuler sur divers backends matériels incluant CPU, Vulkan, ROCm, OpenVINO, SYCL et HIP.