llama.cpp b9945, 채팅 템플릿 사고 프로브 충돌 수정

llama.cpp 프로젝트가 버전 b9945를 출시했으며, 여기에는 서버 구성 요소의 채팅 템플릿 사고 프로브에 대한 중요한 수정 사항이 포함되어 있습니다. 이 변경으로 인해 프로브가 init try/catch 블록 내부로 이동하여 미처리 예외를 방지합니다.

이전에는 초기화 시 채팅 템플릿이 구문 분석되었지만 파서 생성 중 실패하는 모델(예: {% call %} 사용)의 경우 보호된 범위 외부에서 std::invalid_argument 오류가 발생했습니다. 이로 인해 llama-cli가 정상적으로 로드 실패하는 대신 SIGABRT를 통해 중단되었습니다. 이 수정으로 적용 시 오류가 초기화 구문 분석 오류와 일관되게 처리됩니다.

이번 릴리스는 CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL 및 OpenCL을 포함한 다양한 아키텍처에 대해 macOS, Linux, Windows, Android 및 openEuler용 바이너리를 제공합니다.