मिनिमैक्स ने दुनिया का पहला ओपन-वेट लार्ज-स्केल हाइब्रिड-एटेंशन रीजनिंग मॉडल मिनिमैक्स-M1 जारी किया है, जिसमें मिक्स्चर-ऑफ-एक्सपर्ट्स आर्किटेक्चर और लाइटनिंग एटेंशन मैकेनिज्म शामिल हैं। मॉडल नेटिवली 1 मिलियन टोकन के संदर्भ लंबाई का समर्थन करता है और सॉफ्टवेयर इंजीनियरिंग सहित विविध समस्याओं पर रीइंफोर्समेंट लर्निंग का उपयोग करके प्रशिक्षित किया गया है।

  • मिनिमैक्स-M1 में 456 बिलियन पैरामीटर हैं, जिनमें से प्रति टोकन 45.9 बिलियन सक्रिय होते हैं, जो DeepSeek R1 के संदर्भ आकार से 8 गुना अधिक है।
  • 100K टोकन की जनरेशन लंबाई पर मॉडल DeepSeek R1 की तुलना में केवल 25% FLOPs का उपभोग करता है।
  • 40K और 80K थिंकिंग बजट के साथ दो संस्करण उपलब्ध हैं, जिनमें M1-80k वेरिएंट जटिल कार्यों पर Qwen3-235B जैसे मॉडल्स से बेहतर प्रदर्शन करता है।
  • रिलीज में Transformers, vLLM और SGLang जैसे लाइब्रेरी के लिए उपयोग निर्देश शामिल हैं, साथ ही स्थानीय डिप्लॉयमेंट के लिए Docker इमेज भी दिए गए हैं।

मिनिमैक्स-M1 अगली पीढ़ी के लार्ज लैंग्वेज मॉडल एजेंट्स के लिए आधार के रूप में कार्य करता है, जो टेस्ट-टाइम कंप्यूट के दक्ष स्केलिंग के माध्यम से तर्क देते हैं और वास्तविक दुनिया की चुनौतियों का सामना करते हैं।