llama.cpp b9895, 프롬프트 축소 시 ngram-map의 바이트 넘침 읽기 수정

llama.cpp 프로젝트는 추론 디코딩 구성 요소 내의 치명적인 메모리 안전 문제를 해결하는 버전 b9895를 출시했습니다. 이 업데이트는 프롬프트 축소 작업 중 ngram-map에서 발생한 바이트 넘침 읽기 오류를 해결합니다.

• 프롬프트 축소 시 ngram-map의 바이트 넘침 읽기를 수정합니다.
• 프롬프트 축소 후 ngram-map 정리 컷오프를 수정합니다.
• macOS (Apple Silicon 및 Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP), 그리고 openEuler용 바이너리를 제공합니다.

이 릴리스는 이전 ngram-map 처리와 관련된 잠재적 충돌 또는 정의되지 않은 동작을 방지하여 추론 디코딩에 의존하는 사용자의 안정성을 보장합니다.