DominoTree 是一种无需训练的基于最佳优先的草稿树方法，利用已发布的 Domino drafter 加速大语言模型推理。它采用基于 GRU 的因果校正，使草稿 token 分布具有路径依赖性，从而解决 DDTree 等因子化方法的局限性。

  • 沿每条从根到节点的路径，使用 Domino 的条件非因子化校正对草稿树进行评分。
  • 将每个节点的校正限制为候选 top-M 集合，以保持实际效率。
  • 采用 GPU 原生 CUDA-graph 构建器，与参考 Python 实现逐位相同。
  • 在 Qwen3-4B 上的八个基准测试中实现了高达 6.6x 的加速和 10.7 个 token 的平均接受长度。
  • 与已发布的 Domino decoder 相比，Qwen3-4B 的吞吐量提高了 9% 到 10%，Alpaca 上提高了高达 22%。

DominoTree 在每个测试温度下均优于 DDTree 和 CaDDTree，包括贪婪解码，同时保持相对于 DFlash 和 Domino 的整体优势。