llama.cpp 프로젝트가 특정 채팅 템플릿 문제를 해결하는 버전 b9986을 출시했습니다. 이 업데이트에는 강제 개방된 기본 템플릿에서 발생한 추론 누출에 대한 수정이 포함되어 있습니다.
- 콘텐츠 삼킴을 방지하기 위해 후행 공백을 제거하여 추론 시작 태그 추론을 수정합니다.
- Nemotron Nano v2 모델에 영향을 미치는 회귀 문제를 해결합니다.
- macOS (Apple Silicon 및 Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) 및 openEuler에 대한 바이너리를 제공합니다.
이 릴리스는 특정 모델 아키텍처에 대한 올바른 템플릿 처리를 보장하고 지원되는 플랫폼 전반에 걸쳐 업데이트된 바이너리를 제공합니다.