阿里巴巴 Qwen 团队于 2025 年 7 月发布了 Qwen3-Coder-480B-A35B-Instruct，这是一个拥有 4800 亿参数的 Mixture-of-Experts 模型，每次推理仅激活 350 亿个参数。其编程性能可与 Claude Sonnet 4 和 GPT-4 相媲美，且在 Apache 2.0 许可下完全开源。

  • 该模型利用带有 62 个 transformer 层的 160 个专家网络，实现自主多步问题解决，包括调试和文档浏览。
  • 在 20,000 个并行环境中，使用基于执行和长视域强化学习（long-horizon reinforcement learning）在 7.5 万亿个 token 上进行训练。
  • 具有原生的 256,000 个 token 上下文窗口，可通过 YaRN 扩展至 100 万个 token。
  • 在 SWE-Bench 上取得了 55.40% 的成功率，并支持 358 种编程语言。

开源发布允许无限制的商业使用和自托管（self-hosting），为工程团队提供了替代闭源 API 成本的方案。