El proyecto llama.cpp lanzó la versión b9945, que incluye una corrección crítica para la sonda de pensamiento de la plantilla de chat del componente del servidor. El cambio mueve la sonda dentro del bloque try/catch de inicialización para prevenir excepciones no capturadas.

Anteriormente, los modelos con plantillas de chat que se analizaban en la inicialización pero fallaban durante la generación del analizador (por ejemplo, usando {% call %}) provocaban errores std::invalid_argument fuera del ámbito protegido. Esto resultaba en que llama-cli se abortara mediante SIGABRT en lugar de fallar graciosamente al cargar. La corrección asegura que los errores en el momento de aplicar se manejen de manera consistente con los errores de análisis de inicialización.

El lanzamiento proporciona binarios para macOS, Linux, Windows, Android y openEuler a través de varias arquitecturas incluyendo CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL y OpenCL.