El proyecto llama.cpp lanzó la versión b9895, que aborda un problema crítico de seguridad de memoria dentro de su componente de decodificación especulativa. La actualización resuelve un error de lectura fuera de límites que ocurría en ngram-map durante las operaciones de reducción del prompt.

  • Corrige la lectura fuera de límites en ngram-map al reducir el prompt.
  • Corrige el corte de limpieza de ngram-map después de reducir el prompt.
  • Proporciona binarios para macOS (Apple Silicon e Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) y openEuler.

Este lanzamiento garantiza la estabilidad para los usuarios que dependen de la decodificación especulativa, evitando posibles bloqueos o comportamientos indefinidos asociados con el manejo anterior de ngram-map.