llama.cpp 项目发布了版本 b9982,解决了 `oaicompat_chat_params_parse` 函数中的一个错误,该错误导致 `reasoning_budget_tokens` 和 `reasoning_budget_message` 的每个请求值被忽略。
- 服务器之前仅读取这些字段的服务器级默认值,导致调用方提供的覆盖被静默丢弃,因为键已存在于参数对象中。
- 修复确保首先读取请求正文中的值,允许用户显式控制推理预算(例如,将 `reasoning_budget_tokens` 设置为 0)或自定义消息。
- 添加了单元测试以验证在使用 Qwen3 模板时,针对令牌和消息的每个请求覆盖是否正确传递到采样层。
- 该版本包括适用于 macOS、Linux、Android、Windows 和 openEuler 的二进制文件,支持各种硬件后端,包括 CPU、CUDA、ROCm、Vulkan 和 OpenVINO。