アリババのQwenチームは2025年7月、推論時に350億パラメータのみを活性化させる4800億パラメータのMixture-of-Expertsモデルである「Qwen3-Coder-480B-A35B-Instruct」をリリースしました。これはApache 2.0ライセンスの下で完全にオープンソースであり、Claude Sonnet 4やGPT-4と同等のコーディング性能を実現しています。

  • 62層のTransformerレイヤーを持つ160個のエキスパートネットワークを活用し、デバッグやドキュメントブラウジングを含む自律的な多段階問題解決を可能にします。
  • 2万の並列環境で実行ベースおよび長期ホライゾン強化学習を用い、7.5兆トークンでトレーニングされました。
  • ネイティブな256,000トークンのコンテキストウィンドウを持ち、YaRNにより100万トークンまで拡張可能です。
  • SWE-Benchで55.40%の成功率を達成し、358のプログラミング言語をサポートしています。

このオープンリリースにより、商用利用やセルフホスティングが制限なく可能となり、エンジニアリングチームにプロプライエタリなAPIコストに対する代替手段を提供します。