研究人员提出了DeLS-Spec，该方法将固定的DFlash模型视为长上下文专家，同时引入一个轻量级的局部头作为短上下文专家。这种方法允许使用标准的下一个词元预测目标独立训练局部头，避免了与目标模型或DFlash主干进行联合训练的需求。

  • DeLS-Spec在推理时结合长上下文和短上下文的logits，而不将局部头绑定到特定的DFlash检查点。
  • 该方法通过解耦草稿生成过程实现了极低的训练成本。
  • 在Qwen3模型上的实验表明，与DFlash相比，在数学、代码和对话基准测试中，加速比和平均接受长度均有持续改进。

这种模块化设计为推测性解码提供了更大的灵活性和效率，而无需对草稿模型进行昂贵的重新训练。