स्रोत · Liquid AI
lab Liquid AI · 22 दिन पहले · 18 बार देखा गया

Liquid AI ने LFM2.5 के लिए DSpark ड्राफ्ट मॉडल जारी किए ताकि इनफरेंस को तेज किया जा सके

Liquid AI ने अपने LFM2.5 परिवार के लिए ड्राफ्ट मॉडल चेकपॉइंट्स जारी किए हैं—विशेष रूप से LFM2.5-1.2B-Instruct, LFM2.5-2.6B, और LFM2.5-8B-A1B—जो आउटपुट गुणवत्ता को बिना खोए इनफरेंस गति में महत्वपूर्ण सुधार करने के लिए स्पेकुलेटिव डिकोडिंग का उपयोग करते हैं।

lab Liquid AI · 23 दिन पहले · 13 बार देखा गया

LFM2.5 Q4_5 चेकपॉइंट्स क्वांटाइज़ेशन-अवेयर डिस्टिलेशन का उपयोग करके BF16 सटीकता के 97% को पुनर्स्थापित करते हैं

LFM2.5 टीम ने LFM2.5-230M, LFM2.5-350M, LFM2.5-1.2B-Instruct और LFM2.5-2.6B मॉडलों के लिए अपडेटेड 4-बिट GGUF चेकपॉइंट्स जारी किए हैं, जिन्हें क्वांटाइज़ेशन-अवेयर डिस्टिलेशन (QAD) का उपयोग करके प्रशिक्षित किया गया है। यह तकनीक एक उच्च-सटीकता वाले शिक्षक मॉडल को एक क्वांटाइज्ड छात्र में संकुचित करती है ताकि मानक क्वांटाइज़ेशन के दौरान खोई गई सटीकता को पुनर्स्थापित किया जा सके।