Tim Qwen dari Alibaba merilis Qwen3-Coder-480B-A35B-Instruct pada Juli 2025, sebuah model Mixture-of-Experts dengan 480 miliar parameter yang hanya mengaktifkan 35 miliar parameter per inferensi. Model ini mencapai kinerja pemrograman yang sebanding dengan Claude Sonnet 4 dan GPT-4 sambil sepenuhnya open-source di bawah lisensi Apache 2.0.

  • Model ini memanfaatkan 160 jaringan ahli dengan 62 lapisan Transformer, memungkinkan pemecahan masalah multi-langkah secara otonom termasuk debugging dan penelusuran dokumentasi.
  • Dilatih pada 7,5 triliun token menggunakan pembelajaran penguatan berbasis eksekusi dan horizon panjang di across 20.000 lingkungan paralel.
  • Memiliki jendela konteks native 256.000 token yang dapat diperluas hingga 1 juta token melalui YaRN.
  • Mencapai tingkat keberhasilan 55,40% pada SWE-Bench dan mendukung 358 bahasa pemrograman.

Rilis open-source ini memungkinkan penggunaan komersial tanpa batas dan self-hosting, menawarkan tim teknik alternatif terhadap biaya API proprietary.