NVIDIA推出Nemotron-Labs-Diffusion，这是一种三模态语言模型，在单一架构中统一了自回归（AR）、扩散和自推测解码。该模型采用联合AR-扩散目标进行训练，能够切换模式以在不同部署设置和并发级别下维持高吞吐量。

  • 研究表明，AR和扩散目标是互补的，扩散改善了前瞻规划，而AR提供了从左到右的语言先验。
  • 在自推测模式下，扩散负责草稿生成，AR负责验证，其在接受率和真实设备效率方面优于多token预测方法。
  • 光速分析展示了扩散的潜力，在最优采样器下，其每次前向传递可处理比自推测多76.5%的token。
  • Nemotron-Labs-Diffusion系列扩展至3B、8B和14B参数规模，包括基础、指令和视觉语言模型，其在准确性和速度方面优于最先进的开源LMs。
  • Nemotron-Labs-Diffusion-8B每次前向传递解码的token数量是Qwen3-8B的6倍，且准确性相当，在GB200 GPU上使用SGLang时，SPEED-Bench上的吞吐量提高4倍。

该模型在准确性和速度方面持续优于最先进的开源AR和扩散LMs，为部署提供了显著的效率提升。