DSpark एक अनुमानित डिकोडिंग फ्रेमवर्क है जो अर्ध-स्वयं-पुनरावर्ती ड्राफ्ट जनरेशन को लोड-जागरूक सत्यापन के साथ जोड़कर बड़े भाषा मॉडल (LLM) इनफरेंस को तेज़ करने के लिए डिज़ाइन किया गया है। यह मौजूदा समानांतर ड्राफ्टर्स में पाए जाने वाले स्वीकृति क्षय और थ्रूपुट ह्रास की समस्याओं को संबोधित करता है।
- DSpark एक अर्ध-स्वयं-पुनरावर्ती आर्किटेक्चर का उपयोग करता है जो समानांतर बैकबोन को एक हल्के क्रमागत मॉड्यूल के साथ जोड़ता है ताकि ब्लॉक-आंतरिक निर्भरताओं को मॉडल किया जा सके।
- सिस्टम प्रीफ़िक्स बचाव प्रायिकताओं और थ्रूपुट प्रोफ़ाइल के आधार पर सत्यापन लंबाई को गतिशील रूप से अनुकूलित करने के लिए आत्मविश्वास-आधारित अनुसूचित सत्यापन का उपयोग करता है।
- ऑफलाइन बेंचमार्क्स पर, DSpark सबसे उन्नत स्वयं-पुनरावर्ती और समानांतर ड्राफ्टर्स की तुलना में स्वीकृत लंबाई को काफी बढ़ाता है।
- लाइव ट्रैफ़िक के तहत DeepSeek-V4 सर्विंग सिस्टम में, MTP-1 आधार रेखा की तुलना में DSpark प्रति-उपयोगकर्ता जनरेशन गति को 60 से 85 प्रतिशत तक तेज़ करता है।
कड़े इंटरैक्टिविटी बाधाओं के तहत सत्यापन बर्बादी को रोककर और थ्रूपुट ह्रास को कम करके, DSpark उत्पादन वातावरण में पहले असाध्य रहे प्रदर्शन स्तरों को संभव बनाता है।