アリババクラウドのQwenチームは、コーディングエージェントに特化したオープンウェイト言語モデルであるQwen3-Coder-Nextを発表しました。このモデルは推論時に800億パラメータのうち30億パラメータのみを活性化します。このモデルは、実行可能な環境とペアになった検証可能なコーディングタスクの大規模合成を活用し、中間トレーニングと強化学習を通じてフィードバックから直接学習します。

  • アクティブなパラメータ数に対してSWE-Bench Proなどのベンチマークで競争力のあるパフォーマンスを達成し、大幅に大きな計算資源を持つモデルを上回ります。
  • トレーニングパイプラインには、継続的な事前トレーニング、教師ありファインチューニング、および専門化されたエキスパートモデルの統一アーキテクチャへの蒸留が含まれます。
  • タスク合成には、GitHubのプルリクエストのマイニングと既存データセットの拡張が含まれ、9つのプログラミング言語にわたって約80万個の検証可能なソフトウェアエンジニアリングタスクを生成します。

このアプローチは、エージェント型トレーニングのスケーリングが現実世界のコーディングエージェントの能力向上における主要な駆動要因であることを示しており、レイテンシとコストが重要な制約となる本番環境での効率的なデプロイメントを提供します。