El Informe Técnico de Qwen3 presenta una nueva serie de modelos de lenguaje grandes de peso abierto que van desde 0.6 hasta 235 mil millones de parámetros, con arquitecturas tanto densas como de Mezcla de Expertos. Una innovación clave es la integración del "modo de pensamiento" para razonamiento complejo y el "modo sin pensamiento" para respuestas rápidas en un solo marco, permitiendo un cambio dinámico sin alternar entre modelos.
- El modelo insignia Qwen3-235B-A22B utiliza 22 mil millones de parámetros activados por token para equilibrar el rendimiento y la eficiencia de inferencia.
- El soporte multilingüe se amplía de 29 a 119 idiomas y dialectos, entrenado con 36 billones de tokens que incluyen datos sintéticos generados por modelos Qwen anteriores.
- La serie implementa un mecanismo de "presupuesto de pensamiento" para la asignación adaptativa de recursos computacionales durante la inferencia.
- El entrenamiento posterior emplea aprendizaje por refuerzo en múltiples etapas y destilación de fuerte a débil para alinear los modelos con las preferencias humanas.
Los autores consideran que estos avances son importantes porque permiten un rendimiento competitivo frente a modelos propietarios, mientras brindan a los usuarios un control fino sobre el esfuerzo de razonamiento y la latencia.