El equipo Qwen de Alibaba lanzó Qwen3-Coder-480B-A35B-Instruct en julio de 2025, un modelo Mixture-of-Experts de 480 mil millones de parámetros que activa solo 35 mil millones de parámetros por inferencia. Alcanza un rendimiento en programación comparable al de Claude Sonnet 4 y GPT-4, siendo completamente de código abierto bajo la licencia Apache 2.0.
- El modelo utiliza 160 redes de expertos con 62 capas transformer, permitiendo la resolución autónoma de problemas en múltiples pasos, incluyendo depuración y navegación por documentación.
- Entrenado con 7,5 billones de tokens utilizando aprendizaje por refuerzo basado en ejecución y a largo plazo (long-horizon) en 20.000 entornos paralelos.
- Cuenta con una ventana de contexto nativa de 256.000 tokens extensible a 1 millón de tokens mediante YaRN.
- Logró una tasa de éxito del 55,40% en SWE-Bench y soporta 358 lenguajes de programación.
El lanzamiento abierto permite el uso comercial sin restricciones y el autoalojamiento (self-hosting), ofreciendo a los equipos de ingeniería una alternativa a los costos de las APIs propietarias.