llama.cpp b9945 исправляет сбой зонда обдумывания шаблона чата

Проект llama.cpp выпустил версию b9945, которая включает критическое исправление для зонда обдумывания шаблона чата компонента сервера. Изменение перемещает зонд внутрь блока try/catch инициализации, чтобы предотвратить необработанные исключения.

Ранее модели с шаблонами чата, которые парсились при инициализации, но терпели неудачу во время генерации парсера (например, с использованием {% call %}), вызывали ошибки std::invalid_argument за пределами защищённой области. Это приводило к аварийному завершению llama-cli через SIGABRT вместо корректного отказа от загрузки. Исправление обеспечивает последовательную обработку ошибок времени применения аналогично ошибкам парсинга при инициализации.

Релиз предоставляет бинарные файлы для macOS, Linux, Windows, Android и openEuler для различных архитектур, включая CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL и OpenCL.