Проект llama.cpp выпустил версию b9982, которая устраняет ошибку в функции `oaicompat_chat_params_parse`, где значения для каждого запроса `reasoning_budget_tokens` и `reasoning_budget_message` игнорировались.

  • Сервер ранее читал только серверные значения по умолчанию для этих полей, из-за чего переопределения, предоставленные вызывающей стороной, молча отбрасывались, поскольку ключи уже присутствовали в объекте параметров.
  • Исправление гарантирует, что значения из тела запроса читаются первыми, позволяя пользователям явно контролировать бюджеты рассуждений (например, устанавливать `reasoning_budget_tokens` равным 0) или пользовательские сообщения.
  • Были добавлены модульные тесты для проверки того, что переопределения на уровне запроса как для токенов, так и для сообщений корректно передаются в слой сэмплирования при использовании шаблона Qwen3.
  • Релиз включает бинарные файлы для macOS, Linux, Android, Windows и openEuler для различных аппаратных бэкендов, включая CPU, CUDA, ROCm, Vulkan и OpenVINO.