llama.cpp b9833 릴리스: MiniCPM5 파서 및 다중 플랫폼 바이너리

llama.cpp 프로젝트가 버전 b9833을 출시하여, 다양한 버그 수정 및 리팩토링과 함께 MiniCPM5 모델 전용 파서를 도입했습니다. 이 업데이트에는 도구 호출 파싱 지원, 구문 단순화, 그리고 Jinja2 표준과의 호환성을 보장하기 위해 수정된 Jinja API 동작이 포함됩니다.

• XML 도구 호출 지원 및 스트리밍 도구 인수 자리 표시자 수정과 함께 전용 MiniCPM5 PEG 파서를 구현했습니다.
• 공유 매핑 및 히스토리 폴백을 되돌리고 MiniCPM5에 자동 파서를 사용하도록 채팅 모듈을 리팩토링했습니다.
• Jinja2 사양에 맞게 jinja min/max API를 수정하고 템플릿 이름을 openbmb-MiniCPM5-1B.jinja로 업데이트했습니다.
• macOS(Apple Silicon, Intel), iOS, Linux(CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows(CPU, CUDA 12/13, Vulkan, OpenCL, HIP), 그리고 openEuler용 바이너리를 제공했습니다.

이 릴리스를 통해 사용자는 광범위한 하드웨어 아키텍처와 운영 체제 전반에 걸쳐 향상된 도구 호출 기능으로 MiniCPM5 모델을 실행할 수 있습니다.