DFlash是一种使用z-lab的块扩散技术的推测解码方法，已合并到llama.cpp中（PR #22105）。作者在配备Qwen 3.6 27B的NVIDIA RTX PRO 6000 Blackwell上对该新功能进行了基准测试，发现它比MTP等以前的方法快得多。

  • DFlash在一次传递中填充多达15个标记的块，而不是一次起草一个。
  • 在36K上下文下，DFlash达到了273.04 tok/s，而基线为61.47 tok/s，速度提升了4.44倍。
  • MATH-500上的质量测试显示降级最小（86%对比基础模型的87%）。
  • 该方法会产生约5GB的额外VRAM开销，用于起草器权重和缓冲区。
  • 随着上下文长度的增加，加速效果也会增加，在36K时达到4.44倍，而基线性能会随着上下文的增长而衰减。

这种方法为本地AI使用提供了显着的性能提升，特别是在扩散传递不激烈竞争计算资源的低并发场景中。