Proyek llama.cpp merilis versi b9895, yang menangani masalah keamanan memori kritis dalam komponen decoding spekulatifnya. Pembaruan ini menyelesaikan kesalahan bacaan di luar batas yang terjadi pada ngram-map selama operasi pengecilan prompt.
- Memperbaiki bacaan di luar batas pada ngram-map saat pengecilan prompt.
- Memperbaiki cutoff pembersihan ngram-map setelah pengecilan prompt.
- Menyediakan biner untuk macOS (Apple Silicon dan Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP), dan openEuler.
Rilis ini memastikan stabilitas bagi pengguna yang mengandalkan decoding spekulatif dengan mencegah potensi crash atau perilaku tak terdefinisi yang terkait dengan penanganan ngram-map sebelumnya.