llama.cpp प्रोजेक्ट ने b10701 बिल्ड जारी किया, जिसमें DFlash2 NVFP4 ड्राफ्ट मॉडल्स के लिए एक सुधार शामिल है। अपडेट ने उस समस्या को संबोधित किया जहाँ इन मॉडल्स द्वारा लगभग कोई भी स्वीकृत अनुमानित टोकन उत्पन्न नहीं हो रहा था।
- pull request #28000 में ध्यान ऑपरेशन के लिए गायब NVFP4 स्केल पास करता है।
- सुनिश्चित करता है कि Q, K, V और आउटपुट प्रक्षेपण स्केल संबंधित ग्राफ़ ऑपरेशन को सही तरीके से पास किए जाते हैं।
अनुमानित डिकोडिंग के लिए आवश्यक स्केल प्रसार को ठीक करके यह परिवर्तन DFlash2 NVFP4 मॉडल्स की उचित कार्यक्षमता को पुनर्स्थापित करता है।