DominoTree एक ट्रेनिंग-फ्री बेस्ट-फर्स्ट ड्राफ्ट वृद्धि विधि है जो जारी किए गए Domino drafter को GPU-नेटिव CUDA-graph builder के साथ जोड़कर LLM इनफरेंस को तेज़ करती है। यह प्रत्येक रूट-टू-नोड पथ पर Domino की शर्ती, नॉन-फैक्टराइज्ड GRU-आधारित सुधार का उपयोग करके ड्राफ्ट वृक्षों को स्कोर करता है, दक्षता के लिए उम्मीदवार top-M तक सीमित।
- आठ बेंचमार्क्स पर Qwen3-4B पर, DominoTree ऑटोरेग्रेसिव डिकोडिंग की तुलना में 6.6x तक की गति प्राप्त करता है और प्रति राउंड 10.7 टोकन तक का माध्य स्वीकृति लंबाई।
- यह Qwen3-4B पर कुल मिलाकर 9-10% अधिक थ्रूपुट प्रदान करता है और हर टेस्टेड तापमान पर Alpaca पर +22% तक।
- Qwen3-8B पर, यह सबसे उच्च स्वीकृत लंबाई बनाए रखता है और T=0 पर DDTree के ऊपर +24% की निर्णायक थ्रूपुट जीत जोड़ता है।
विभिन्न तापमानों और मॉडलों पर ऑटोरेग्रेसिव डिकोडिंग, DFlash, Domino और DDTree/CaDDTree की तुलना में विधि महत्वपूर्ण गति और स्वीकृति दरें प्रदान करती है।