NVIDIA presenta Nemotron-Labs-Diffusion, un modelo lingüístico de tres modos que unifica la decodificación autoregresiva (AR), por difusión y por autoespeculación dentro de una única arquitectura. Entrenado con un objetivo conjunto AR-difusión, el modelo puede cambiar de modo para mantener un alto rendimiento en diferentes entornos de implementación y niveles de concurrencia.
- El estudio muestra que los objetivos AR y de difusión son complementarios, con la difusión mejorando la planificación anticipada y AR proporcionando priores lingüísticos de izquierda a derecha.
- En el modo de autoespeculación, la difusión redacta mientras AR verifica, superando a los métodos de predicción multitoken en tasa de aceptación y eficiencia en dispositivos reales.
- Un análisis de velocidad de la luz demuestra el potencial de la difusión, permitiendo hasta un 76,5 % más de tokens por pasada hacia adelante que la autoespeculación bajo un muestreador óptimo.
- La familia Nemotron-Labs-Diffusion escala a 3B, 8B y 14B parámetros, incluyendo modelos base, instructivos y de visión-lenguaje que superan a los LMs de código abierto más avanzados en precisión y velocidad.
- Nemotron-Labs-Diffusion-8B decodifica 6x más tokens por pasada hacia adelante que Qwen3-8B con precisión comparable, lo que se traduce en un rendimiento 4x mayor en SPEED-Bench con SGLang en una GPU GB200.
El modelo supera consistentemente a los LMs AR y de difusión de código abierto más avanzados tanto en precisión como en velocidad, ofreciendo ganancias significativas de eficiencia para la implementación.