एक उपयोगकर्ता प्रदर्शित करता है कि UD-Q2_K_XL के साथ क्वांटाइज़ किया गया Qwen3.5 122B A10B, 64GB सिस्टम RAM में फिट हो सकता है, जिससे उस प्रतिबंध के लिए पिछला सर्वोत्तम विकल्प बदल जाता है।
- मॉडल UD-Q4_K_XL में Qwen3 Next 80B की तुलना में उच्च गुणवत्ता वाले उत्तर और बेहतर आंतरिक ज्ञान प्राप्त करता है।
- DDR4 CPU पर जनरेशन गति लगभग 2.9 tok/s तक गिर जाती है, हालांकि DDR5-5600 इसे 6 tok/s तक बढ़ा सकता है।
- आर्किटेक्चर MTP के माध्यम से 10B सक्रिय पैरामीटर का उपयोग करता है, जबकि Qwen3 Next 80B केवल ~3.5B सक्रिय पैरामीटर का उपयोग करता है।
- मॉडल के REAP वेरिएंट्स को कमतर पाया गया और उन्होंने धीमी प्रॉम्प्ट प्रोसेसिंग गति को हल नहीं किया।
यह कॉन्फ़िगरेशन सीमित मेमोरी वाले उपयोगकर्ताओं को एक बड़े मॉडल की क्षमताओं तक पहुंचने देती है, हालांकि धीमी प्रॉम्प्ट प्रोसेसिंग इसे त्वरित जानकारी खोजने की आवश्यकता वाले एजेंटिक लोड के लिए अनुपयुक्त बनाती है।