Qwen ने अपने Qwen3.5-397B-A17B मॉडल के लिए FP8-क्वांटाइज्ड वेट्स जारी किए हैं, जो 397 अरब पैरामीटरों वाला एक कारणभाषी भाषा मॉडल है जिसमें दृष्टि क्षमताएं हैं और यह प्रत्येक इनफरेंस चरण में केवल 17 अरब पैरामीटर सक्रिय करता है।
मॉडल उच्च-थ्रूपुट इनफरेंस को न्यूनतम लेटेंसी के साथ प्रदान करने के लिए Gated Delta Networks और स्पार्स मिक्स्चर-ऑफ-एक्सपर्ट्स को जोड़ने वाली एक हाइब्रिड आर्किटेक्चर का उपयोग करता है। यह 262,144 टोकन की नेटिव संदर्भ लंबाई का समर्थन करता है, जिसे 1,010,000 तक बढ़ाया जा सकता है, और 201 भाषाओं और बोलियों को कवर करता है।
FP8 क्वांटाइजेशन 128 के ब्लॉक साइज़ के साथ एक सूक्ष्म-स्तर की विधि का उपयोग करता है, जो संसाधन आवश्यकताओं को कम करते हुए मूल मॉडल के लगभग समान प्रदर्शन मापदंडों को बनाए रखता है।