O projeto llama.cpp lançou a versão b9895, que aborda um problema crítico de segurança de memória em seu componente de decodificação especulativa. A atualização resolve um erro de leitura fora dos limites que ocorria no ngram-map durante operações de encolhimento do prompt.
- Corrige leitura fora dos limites no ngram-map ao encolher o prompt.
- Corrige o corte de limpeza do ngram-map após o encolhimento do prompt.
- Fornece binários para macOS (Apple Silicon e Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) e openEuler.
Este lançamento garante estabilidade para usuários que dependem da decodificação especulativa, prevenindo possíveis travamentos ou comportamento indefinido associado ao manuseio anterior do ngram-map.