Laporan Teknis Qwen3 memperkenalkan seri baru model bahasa besar dengan bobot terbuka, mulai dari 0,6 hingga 235 miliar parameter, yang mencakup arsitektur dense dan Mixture-of-Experts. Inovasi utamanya adalah integrasi "mode berpikir" untuk penalaran kompleks dan "mode tanpa berpikir" untuk respons cepat ke dalam satu kerangka kerja, memungkinkan pengalihan dinamis tanpa pergantian model.

  • Model unggulan Qwen3-235B-A22B memanfaatkan 22 miliar parameter yang diaktifkan per token untuk menyeimbangkan kinerja dan efisiensi inferensi.
  • Dukungan multibahasa diperluas dari 29 menjadi 119 bahasa dan dialek, dilatih pada 36 triliun token termasuk data sintetis yang dihasilkan oleh model Qwen sebelumnya.
  • Seri ini mengimplementasikan mekanisme "anggaran berpikir" untuk alokasi sumber daya komputasi adaptif selama inferensi.
  • Pasca-pelatihan menggunakan pembelajaran penguatan multi-tahap dan distilasi dari kuat ke lemah untuk menyelaraskan model dengan preferensi manusia.

Para penulis menganggap kemajuan ini penting karena memungkinkan kinerja yang kompetitif melawan model tertutup sambil memberikan pengguna kontrol halus atas upaya penalaran dan latensi.