AdaSpark DSpark जैसे ब्लॉक ड्राफ्टर्स के लिए एक शेड्यूलर है जो सर्विंग के दौरान बिना पूर्व प्रोफाइलिंग या कैलिब्रेशन के सत्यापन चौड़ाई और स्वीकार्यता प्रायिकताओं को सीखता है। यह सत्यापन समय को संदर्भ और उम्मीदवार स्वीकार्यता के फलन के रूप में लक्ष्य के परिणामों से मिलाता है, जिससे ड्राफ्टेड और टेक्स्ट-उत्पन्न उम्मीदवार एकल सर्वोत्तम-पहले क्रम में प्रतिस्पर्धा कर सकते हैं।
- तीन घन लक्ष्यों और एक मिश्रण-विशेषज्ञ लक्ष्य के साथ छह सार्वजनिक डेटासेट पर, AdaSpark समान ड्राफ्टर्स का उपयोग करते हुए llama.cpp के DSpark की तुलना में 1.5-3.1x तेज़ी से डिकोड करता है।
- AdaSpark के साथ imparo इंजन डिफ़ॉल्ट तीन-टोकन चेन के साथ चलाने की तुलना में 1.17-1.52x तेज़ है, जो लाभ केवल शेड्यूलर को ही दिया गया है।
- चौड़ाई स्वीप के बिना, प्रदर्शन घन लक्ष्यों पर सर्वोत्तम पिन किए गए ट्री चौड़ाई के 0.3% के भीतर रहता है और मिश्रण-विशेषज्ञ मॉडल पर सर्वोत्तम पिन किए गए चौड़ाई से बराबरी करता है।
यह दृष्टिकोण ऑफलाइन कैलिब्रेशन या स्वीप की आवश्यकता को समाप्त करता है जबकि मानक शेड्यूलिंग विधियों की तुलना में महत्वपूर्ण गति वृद्धि प्रदान करता है।