DominoTree एक ट्रेनिंग-फ्री बेस्ट-फर्स्ट ड्राफ्ट वृक्ष विधि है जो बड़े भाषा मॉडल इनफरेंस को त्वरित करने के लिए जारी किए गए Domino drafter का उपयोग करती है। यह DDTree जैसे फैक्टराइज्ड दृष्टिकोणों में सीमाओं को दूर करने के लिए GRU-आधारित कारण-परक सुधार का उपयोग करता है ताकि ड्राफ्ट टोकन वितरण पथ-निर्भर हो जाएं।
- प्रत्येक रूट-से-नोड पथ के अनुदिश Domino की शर्तवार, गैर-फैक्टराइज्ड सुधार का उपयोग करके ड्राफ्ट वृक्ष को स्कोर करता है।
- व्यावहारिक दक्षता बनाए रखने के लिए प्रति-नोड सुधार को एक उम्मीदवार top-M सेट तक सीमित करता है।
- एक GPU-नेटिव CUDA-graph बिल्डर का उपयोग करता है जो संदर्भ Python कार्यान्वयन के साथ बिट-समान है।
- आठ बेंचमार्क्स पर Qwen3-4B में 6.6x तक की गति वृद्धि और 10.7 टोकन का औसत स्वीकृत लंबाई प्राप्त करता है।
- जारी किए गए Domino decoder की तुलना में Qwen3-4B पर थ्रूपुट को 9% से 10% तक और Alpaca पर 22% तक बढ़ाता है।
DominoTree हर परीक्षण तापमान पर, ग्रीडी डिकोडिंग सहित, DDTree और CaDDTree से बेहतर प्रदर्शन करता है, जबकि DFlash और Domino के सापेक्ष समग्र लाभ बनाए रखता है।