Proyek llama.cpp merilis versi b9982, yang mengatasi bug dalam fungsi `oaicompat_chat_params_parse` di mana nilai per-pemintaan untuk `reasoning_budget_tokens` dan `reasoning_budget_message` diabaikan.

  • Server sebelumnya hanya membaca default tingkat server untuk bidang-bidang ini, menyebabkan pengabaian diam-diam atas penggantian yang disediakan oleh pemanggil karena kunci-kunci tersebut sudah ada dalam objek parameter.
  • Perbaikan ini memastikan bahwa nilai dari badan permintaan dibaca terlebih dahulu, memungkinkan pengguna mengontrol anggaran penalaran (misalnya, mengatur `reasoning_budget_tokens` menjadi 0) atau pesan kustom secara eksplisit.
  • Uji unit ditambahkan untuk memverifikasi bahwa penggantian per-pemintaan untuk token dan pesan diteruskan dengan benar ke lapisan pengambilan sampel saat menggunakan template Qwen3.