एक Reddit उपयोगकर्ता ने 20GB की 7900XT eGPU और 64GB DDR5 RAM से लैपटॉप पर स्थानीय रूप से Qwen3.6 35B A3B मॉडल चलाने के अपने अनुभव को साझा किया है।
- इसका उपयोग स्थानीय pi-coding-agent कार्यों के लिए किया जाता है।
- यह उच्च क्वांटाइज़ेशन, जैसे कि 100k संदर्भ पर Q8 या पूर्ण 262k संदर्भ पर ud-q6kl को फिट करने के लिए CPU ऑफलोड (MoE) का उपयोग करता है।
- इनफरेंस गति को धीमा लेकिन 20 टोकन से अधिक आउटपुट के लिए उपयोग योग्य बताया गया है।
उपयोगकर्ता इस विशिष्ट हार्डवेयर कॉन्फ़िगरेशन के लिए उपयुक्त अन्य Mixture of Experts (MoE) मॉडलों के लिए सिफारिशें खोज रहा है।