एक रेडिट उपयोगकर्ता स्थानीय बड़े भाषा मॉडल सेटअप को अपग्रेड करने के बारे में सलाह खोज रहे हैं, विशेष रूप से इनफरेंस गति और सामान्य ज्ञान क्षमताओं के बीच व्यापार का संतुलन कर रहे हैं।
- उपयोगकर्ता वर्तमान में Strix Halo डिवाइस पर अपने प्राथमिक सहायक और कोडिंग एजेंट के रूप में Qwen3.6 35B चला रहा है।
- वे 131k संदर्भ विंडो के साथ प्रति सेकंड लगभग 30-40 टोकन प्राप्त करने की रिपोर्ट करते हैं।
- उपयोगकर्ता को लगता है कि वर्तमान मॉडल में बुनियादी सामान्य ज्ञान की कमी है और यह सहायक के बजाय एक निष्पादक के रूप में कार्य करता है।
- इसका समाधान करने के लिए, वे स्वीकार्य गति बनाए रखने का प्रयास करते हुए बड़े Qwen3.5 122B मॉडल में स्विच करने पर विचार कर रहे हैं।