Le projet llama.cpp a publié la version b9895, qui traite d'un problème critique de sécurité mémoire au sein de son composant de décodage spéculatif. Cette mise à jour résout une erreur de lecture hors limites survenue dans ngram-map lors des opérations de rétrécissement du prompt.

  • Corrige la lecture hors limites dans ngram-map lors du rétrécissement du prompt.
  • Corrige le seuil de nettoyage de ngram-map après le rétrécissement du prompt.
  • Fournit des binaires pour macOS (Apple Silicon et Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) et openEuler.

Cette version garantit la stabilité pour les utilisateurs qui dépendent du décodage spéculatif en empêchant les plantages potentiels ou le comportement indéfini associé à la gestion précédente de ngram-map.