Tim Qwen dari Alibaba Cloud memperkenalkan Qwen3-Coder-Next, model bahasa bobot terbuka yang khusus untuk agen pemrograman yang hanya mengaktifkan 3 miliar dari 80 miliar parameternya selama inferensi. Model ini memanfaatkan sintesis skala besar tugas pemrograman yang dapat diverifikasi dipasangkan dengan lingkungan eksekusi untuk belajar langsung dari umpan balik melalui pelatihan tengah dan pembelajaran penguatan.
- Mencapai kinerja kompetitif pada benchmark seperti SWE-Bench Pro relatif terhadap jumlah parameternya yang aktif, mengungguli model dengan komputasi yang jauh lebih besar.
- Pipeline pelatihan mencakup pra-pelatihan berkelanjutan, penyetelan halus terawasi, dan distilasi model ahli khusus ke dalam arsitektur terpadu.
- Sintesis tugas melibatkan penambangan pull request GitHub dan memperluas dataset yang ada untuk menghasilkan sekitar 800K tugas teknik perangkat lunak yang dapat diverifikasi di sembilan bahasa pemrograman.
Pendekatan ini menunjukkan bahwa penskalaan pelatihan agentic adalah pendorong utama dalam meningkatkan kemampuan agen pemrograman dunia nyata, menawarkan penyebaran yang efisien untuk lingkungan produksi di mana latensi dan biaya adalah kendala kritis.