llama.cpp b9895 исправляет чтение за пределами массива в ngram-map при сжатии промпта

Проект llama.cpp выпустил версию b9895, которая устраняет критическую проблему безопасности памяти в компоненте спекулятивного декодирования. Обновление решает ошибку чтения за пределами массива, возникающую в ngram-map во время операций сжатия промпта.

• Исправлено чтение за пределами массива в ngram-map при сжатии промпта.
• Исправлена очистка cutoff в ngram-map после сжатия промпта.
• Предоставлены бинарные файлы для macOS (Apple Silicon и Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) и openEuler.

Это обновление обеспечивает стабильность для пользователей, полагающихся на спекулятивное декодирование, предотвращая потенциальные сбои или неопределенное поведение, связанные с предыдущей обработкой ngram-map.