llama.cpp परियोजना ने लक्ष्य ग्राफ़ में परत इनपुट टेंसर को उजागर करके, HunyuanOCR मॉडल के साथ DFlash स्पेकुलेटिव डिकोडिंग का समर्थन जोड़ा है। इस बदलाव से ड्राफ्ट मॉडल अवशेष स्ट्रीम को पढ़ सकता है, जिससे छवि अनुरोध लगभग 0.5 की ड्राफ्ट स्वीकृति दर के साथ और गैर-स्पेकुलेटिव रन के सापेक्ष बाइट-समान OCR आउटपुट के साथ सफलतापूर्वक चल सकते हैं।
अपडेट में HunYuan लक्ष्यों के खिलाफ DFlash ड्राफ्ट रूपांतरण को भी ठीक किया गया है, जिसने दो विशिष्ट विफलताओं को हल किया: अनबाउंड वोकैब हैंडलिंग और कॉन्फ़िगरेशन खोजों से उत्पन्न AttributeError, जो गलत तरीके से ड्राफ्ट पैरामीटर पढ़ रहे थे, न कि लक्ष्य कॉन्फ़िगरेशन। ये सुधार tencent/HunyuanOCR DFlash ड्राफ्ट के रूपांतरण को संस्करण 1.5 और v1.0 चेकपॉइंट दोनों के लिए सफल बनाते हैं, बिना बेस मॉडल रूपांतरण को प्रभावित किए।
ये बदलाव llama.cpp में Hunyuan-आधारित मॉडल्स के लिए कुशल स्पेकुलेटिव डिकोडिंग को सक्षम करते हैं, आउटपुट विश्वसनीयता बनाए रखते हुए इनफरेंस गति में सुधार करते हैं।