Le projet llama.cpp a publié la version b9986, traitant des problèmes spécifiques liés aux modèles de chat. Cette mise à jour inclut une correction pour les fuites de raisonnement qui se produisaient avec des modèles bruts ouverts de force.

  • Corrige l'inférence du tag de début de raisonnement en supprimant les espaces blancs de fin pour empêcher l'absorption du contenu.
  • Résout une régression affectant les modèles Nemotron Nano v2.
  • Fournit des binaires pour macOS (Apple Silicon et Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) et openEuler.

Cette version garantit une gestion correcte des modèles pour des architectures de modèles spécifiques et fournit des binaires mis à jour sur toutes les plateformes prises en charge.