Liquid AI ने अपने LFM2.5 परिवार में तीन मॉडलों के लिए DSpark ड्राफ्ट मॉडल चेकपॉइंट जारी किए हैं: LFM2.5-1.2B-Instruct, LFM2.5-2.6B, और LFM2.5-8B-A1B। ये ड्राफ्टर मौजूदा टारगेट मॉडलों में एक स्पेकुलेटिव डिकोडिंग पथ जोड़ते हैं, जिससे लगभग 300M-पैरामीटर वाला ड्राफ्ट नौ उम्मीदवार टोकन का ब्लॉक प्रस्तावित कर सकता है जिसे टारगेट मॉडल एक ही फॉरवर्ड पास में सत्यापित करता है।

  • सिस्टम H100 पर 3.18x तक तेज़ डिकोडिंग और M4 Max MacBook Pro पर 2.87x तक प्रदान करता है, मॉडल आउटपुट को बदले बिना।
  • ग्रिडी डिकोडिंग के तहत, उत्सर्जित अनुक्रम टारगेट मॉडल द्वारा अकेले चलने वाले अनुक्रम के समान होता है, यह सुनिश्चित करते हुए कि बेंचमार्क सटीकता अपरिवर्तित रहती है।
  • DSpark एक DFlash-शैली पैरेलल बैकबोन को एक हल्के सीक्वेंशियल हेड के साथ जोड़ता है, जिसे मार्कोव चेन और कॉन्फिडेंस-शेड्यूल्ड वेरीफायर के रूप में मॉडल किया गया है।
  • मल्टी-टूल फंक्शन कॉलिंग परिदृश्यों में LFM2.5-2.6B के लिए औसतन 57% लेटेंसी कमी देखी गई, हालांकि MoE मॉडल्स को मौजूदा कार्यान्वयन सीमाओं के कारण Apple सिلىकॉन पर केवल 1.18x लाभ मिलता है।
  • वजन Safetensors और GGUF के रूप में उपलब्ध हैं, जिनका समर्थन llama.cpp और SGLang में दिन एक से शुरू हो जाता है।

यह तकनीक डेवलपर्स को स्थानीय कोडिंग असिस्टेंट्स, ऑन-डिवाइस एजेंट्स, और ऑफलाइन कॉपिलोट्स के लिए इनफरेंस लेटेंसी को महत्वपूर्ण रूप से कम करने की अनुमति देती है, जबकि स्व-होस्टिंग के माध्यम से डेटा गोपनीयता बनाए रखी जाती है।