MiniMax a publié MiniMax-M1, le premier modèle de raisonnement à grande échelle à poids ouverts et à attention hybride au monde, doté d'une architecture Mixture-of-Experts et d'un mécanisme d'attention éclair. Le modèle prend nativement en charge une longueur de contexte de 1 million de tokens et est entraîné par apprentissage par renforcement sur des problèmes variés, y compris l'ingénierie logicielle.
- MiniMax-M1 compte 456 milliards de paramètres avec 45,9 milliards activés par token, offrant une taille de contexte 8 fois supérieure à celle de DeepSeek R1.
- Le modèle ne consomme que 25 % des FLOPs par rapport à DeepSeek R1 pour une longueur de génération de 100K tokens.
- Deux versions sont disponibles avec des budgets de réflexion de 40K et 80K, la variante M1-80k surpassant des modèles comme Qwen3-235B sur des tâches complexes.
- Le lancement inclut des instructions d'utilisation pour des bibliothèques telles que Transformers, vLLM et SGLang, ainsi que des images Docker pour le déploiement local.
MiniMax-M1 sert de fondation aux agents de modèles de langage de nouvelle génération pour raisonner et relever des défis réels grâce à une mise à l'échelle efficace du calcul au moment de l'inférence.