llama.cpp प्रोजेक्ट ने संस्करण b9982 जारी किया, जो `oaicompat_chat_params_parse` फ़ंक्शन में एक बग को संबोधित करता है जहाँ `reasoning_budget_tokens` और `reasoning_budget_message` के लिए प्रति-अनुरोध मानों को नज़रअंदाज किया जा रहा था।

  • सर्वर पहले इन फ़ील्ड्स के लिए केवल सर्वर-स्तर डिफ़ॉल्ट पढ़ता था, जिससे कॉलर द्वारा प्रदान किए गए ओवरराइड साइलेंटली खारिज कर दिए जाते थे क्योंकि कुंजी पहले से ही पैरामीटर ऑब्जेक्ट में मौजूद थीं।
  • ठीक करने से अनुरोध बॉडी से मानों को पहले पढ़ने की गारंटी मिलती है, जिससे उपयोगकर्ता तर्क बजट (उदाहरण के लिए, `reasoning_budget_tokens` को 0 पर सेट करना) या कस्टम संदेशों को स्पष्ट रूप से नियंत्रित कर सकते हैं।
  • Qwen3 टेम्पलेट का उपयोग करते समय टोकन और संदेश दोनों के लिए प्रति-अनुरोध ओवरराइड को सैंपलिंग परत में सही ढंग से पास किया जाता है, इसकी पुष्टि करने के लिए यूनिट टेस्ट जोड़े गए हैं।
  • रिलीज़ में CPU, CUDA, ROCm, Vulkan और OpenVINO सहित विभिन्न हार्डवेयर बैकएंड्स के लिए macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं।