研究人员提出了 Trajectory-Aware Commit Gating (TACG)，这是一种无需训练的扩散语言模型解码器，它利用预测分布的轨迹来改进令牌提交决策。TACG 将令牌身份锚定到基础后验概率，并仅使用轨迹感知信号来确定提议是否准备好提交，从而避免将置信度与准备状态混淆。

  • 该方法结合了 Temporal Implicit Logits Guidance (TILG)，它维护过去 logit 的指数移动平均值以与当前值进行对比，以及 History Gate (HG)，它强制执行短期的提议持久性。
  • 使用受限的额外提升预算来创建具有稳定性约束的提交规则，而无需辅助网络或额外的前向传递。
  • 在代码（HumanEval、MBPP）和数学（GSM8K、MATH500）基准测试中对 LLaDA、Dream 和 LLaDA2-Mini 进行的评估表明，TACG 通常能在减少去噪步骤的同时提高或保持准确性，并增加每次前向传递的令牌数。

该方法使扩散语言模型能够利用其固有的轨迹数据进行更稳定的解码，而在推理期间没有额外的计算开销。