llama.cpp b9945 corrige le plantage du sonde de réflexion du modèle de chat

Le projet llama.cpp a publié la version b9945, qui inclut une correction critique pour la sonde de réflexion du modèle de chat du composant serveur. Le changement déplace la sonde à l'intérieur du bloc try/catch d'initialisation pour empêcher les exceptions non capturées.

Auparavant, les modèles avec des modèles de chat qui se parseaient correctement lors de l'initialisation mais échouaient lors de la génération du parseur (par exemple, en utilisant {% call %}) provoquaient des erreurs std::invalid_argument en dehors de la portée protégée. Cela entraînait l'interruption de llama-cli via SIGABRT au lieu d'un échec de chargement gracieux. La correction assure que les erreurs au moment de l'application sont gérées de manière cohérente avec les erreurs de parseur lors de l'initialisation.

La release fournit des binaires pour macOS, Linux, Windows, Android et openEuler sur diverses architectures incluant CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL et OpenCL.