llama.cpp 프로젝트는 `reasoning_budget_tokens` 및 `reasoning_budget_message`의 요청별 값이 무시되던 `oaicompat_chat_params_parse` 함수의 버그를 해결한 버전 b9982를 출시했습니다.
- 서버는 이전에는 이러한 필드에 대해 서버 수준 기본값만 읽었으며, 매개변수 객체에 키가 이미 존재했기 때문에 호출자가 제공한 재정의가 묵시적으로 무시되었습니다.
- 이 수정으로 요청 본문에서 값을 먼저 읽게 되어 사용자가 추론 예산(예: `reasoning_budget_tokens`를 0으로 설정)이나 사용자 지정 메시지를 명시적으로 제어할 수 있게 되었습니다.
- Qwen3 템플릿을 사용할 때 토큰과 메시지 모두에 대한 요청별 재정의가 샘플링 레이어로 올바르게 전달되는지 확인하기 위해 단위 테스트가 추가되었습니다.
- 이 릴리스에는 CPU, CUDA, ROCm, Vulkan, OpenVINO를 포함한 다양한 하드웨어 백엔드에 대한 macOS, Linux, Android, Windows, openEuler용 바이너리가 포함되어 있습니다.