मिनिमैक्स ने मिनिमैक्स-M1 का परिचय दिया, जो दुनिया का पहला ओपन-वेट लार्ज-स्केल हाइब्रिड-एटेंशन रीजनिंग मॉडल है। अपने पिछले मिनिमैक्स-टेक्स्ट-01 आर्किटेक्चर पर निर्मित, यह 1 मिलियन टोकन संदर्भ और कुशल टेस्ट-टाइम कंप्यूट स्केलिंग को सपोर्ट करने के लिए एक मिक्स्चर-ऑफ-एक्सपर्ट्स (MoE) डिज़ाइन को लाइटनिंग एटेंशन मेकानिज्म के साथ जोड़ता है।
मॉडल में 456 बिलियन कुल पैरामीटर हैं, जिनमें से प्रति टोकन 45.9 बिलियन सक्रिय होते हैं, और यह 100K जनरेशन लंबाई पर डीपसीक R1 के FLOPs का केवल 25% खर्च करता है। इसे लार्ज-स्केल रीइन्फोर्समेंट लर्निंग और दो नए वर्जन (40K और 80K थिंकिंग बजट वाले) का उपयोग करके ट्रेन किया गया था। प्रयोगों से पता चलता है कि यह जटिल सॉफ्टवेयर इंजीनियरिंग, टूल यूज़, और लॉन्ग-कॉन्टेक्स्ट टास्क पर डीपसीक-R1 और क्वेन3-235B जैसे मॉडल्स से बेहतर प्रदर्शन करता है।
मिनिमैक्स-M1 लंबे इनपुट और व्यापक थिंकिंग प्रक्रियाओं पर कुशल रीजनिंग को सक्षम बनाकर अगली पीढ़ी के लैंग्वेज मॉडल एजेंट्स के लिए एक आधार के रूप में कार्य करता है।