El equipo Qwen de Alibaba Cloud presenta Qwen3-Coder-Next, un modelo de lenguaje de peso abierto especializado en agentes de codificación que activa solo 3 mil millones de sus 80 mil millones de parámetros durante la inferencia. El modelo aprovecha la síntesis a gran escala de tareas de codificación verificables combinada con entornos ejecutables para aprender directamente de la retroalimentación mediante entrenamiento intermedio y aprendizaje por refuerzo.
- Logra un rendimiento competitivo en benchmarks como SWE-Bench Pro en relación con su conteo de parámetros activos, superando a modelos con computación significativamente mayor.
- La tubería de entrenamiento incluye preentrenamiento continuado, ajuste fino supervisado y la destilación de modelos expertos especializados en una arquitectura unificada.
- La síntesis de tareas implica extraer pull requests de GitHub y ampliar conjuntos de datos existentes para generar aproximadamente 800K tareas verificables de ingeniería de software en nueve lenguajes de programación.
Este enfoque demuestra que escalar el entrenamiento agéntico es un impulsor clave para avanzar en la capacidad real de agentes de codificación, ofreciendo una implementación eficiente para entornos de producción donde la latencia y el costo son restricciones críticas.