El proyecto llama.cpp lanzó la versión b9986, abordando problemas específicos con las plantillas de chat. La actualización incluye una corrección para las fugas de razonamiento que ocurrían con plantillas desnudas forzadas.
- Corrige la inferencia de la etiqueta de inicio de razonamiento recortando el espacio en blanco final para evitar la absorción del contenido.
- Resuelve una regresión que afecta a los modelos Nemotron Nano v2.
- Proporciona binarios para macOS (Apple Silicon e Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) y openEuler.
Este lanzamiento asegura un manejo correcto de las plantillas para arquitecturas de modelos específicas y proporciona binarios actualizados en todas las plataformas compatibles.