MiniMax 发布开源权重的 MiniMax-M1 混合注意力推理模型

MiniMax 发布了 MiniMax-M1，这是全球首个开源权重的超大规模混合注意力推理模型，采用专家混合（Mixture-of-Experts）架构和闪电注意力机制。该模型原生支持 100 万 token 的上下文长度，并使用强化学习在包括软件工程在内的多样化问题上进行训练。

• MiniMax-M1 包含 4560 亿参数，每个 token 激活 459 亿参数，其上下文容量是 DeepSeek R1 的 8 倍。
• 在生成长度为 100K token 时，该模型消耗的 FLOPs 仅为 DeepSeek R1 的 25%。
• 提供两个版本，思考预算分别为 40K 和 80K，其中 M1-80k 变体在复杂任务上优于 Qwen3-235B 等模型。
• 发布内容包含针对 Transformers、vLLM 和 SGLang 等库的使用说明，以及用于本地部署的 Docker 镜像。

MiniMax-M1 作为基础，使下一代语言模型智能体能够通过高效扩展测试时计算能力来进行推理并解决现实世界中的挑战。