4090 और 5060ti सेटअप वाला एक Reddit उपयोगकर्ता ऐसे ओपन सोर्स बड़े भाषा मॉडल (LLM) की सिफारिशें चाहता है जो Hermes Agent फ्रेमवर्क को प्रभावी ढंग से स्थानीय रूप से चला सकें। उपयोगकर्ता अपने वर्तमान Opencode वर्कफ़्लो को बदलना चाहता है, जो मुफ्त MiMoV2 pro मॉडल पर निर्भर करता है, ताकि दैनिक खर्च से बचा जा सके।
- उपयोगकर्ता के पास दो GPU (4090 और 5060ti) और 64GB RAM वाली हार्डवेयर कॉन्फ़िगरेशन है।
- उन्होंने पहले MiMoV2 pro के साथ Opencode का उपयोग किया था, लेकिन उन्हें $20 का दैनिक खर्च टिकाऊ नहीं लगता।
- उन्हें Qwen3.6-27b को Hermes के साथ उपयोग करने पर लूपिंग समस्याओं की रिपोर्ट सुनाई गई है।
- लक्ष्य एक ऐसा ओपन सोर्स मॉडल ढूंढना है जो उचित टोकन प्रति सेकंड पर चले और कार्यों को अर्थपूर्ण रूप से पूरा करे।