NVIDIA представляет Nemotron-Labs-Diffusion, трёхрежимную языковую модель, которая объединяет авторегрессионное (AR), диффузионное декодирование и самоспекуляцию в единой архитектуре. Обученная с использованием совместной AR-диффузионной цели, модель может переключать режимы для поддержания высокой пропускной способности в различных условиях развёртывания и уровнях параллелизма.
- Исследование показывает, что AR- и диффузионные цели дополняют друг друга: диффузия улучшает планирование наперёд, а AR обеспечивает левосторонние лингвистические приоритеты.
- В режиме самоспекуляции диффузия генерирует черновики, а AR их проверяет, превосходя методы многозадачного предсказания по уровню принятия и эффективности на реальном устройстве.
- Анализ «скорости света» демонстрирует потенциал диффузии: при оптимальном сэмплере она позволяет обрабатывать до 76,5% больше токенов за один прямой проход по сравнению с самоспекуляцией.
- Семейство Nemotron-Labs-Diffusion масштабируется до 3B, 8B и 14B параметров, включая базовые, инструктивные и зрительно-языковые модели, которые превосходят современные открытые LMs по точности и скорости.
- Nemotron-Labs-Diffusion-8B декодирует в 6 раз больше токенов за прямой проход по сравнению с Qwen3-8B при сопоставимой точности, что даёт в 4 раза более высокую пропускную способность на SPEED-Bench с SGLang на GPU GB200.
Модель стабильно превосходит современные открытые AR и диффузионные LMs как по точности, так и по скорости, обеспечивая значительный прирост эффективности при развёртывании.