DominoTree es un método de árbol de borrado primero sin entrenamiento que combina el drafter Domino publicado con un constructor de grafos CUDA nativo para GPU para acelerar la inferencia de LLM. Puntuación los árboles de borrado utilizando la corrección condicional y no factorizada basada en GRU de Domino a lo largo de cada ruta raíz-nodo, restringida a un top-M candidato por eficiencia.

  • En Qwen3-4B en ocho benchmarks, DominoTree logra una aceleración de hasta 6.6x sobre la decodificación autoregresiva y una longitud media de aceptación de hasta 10.7 tokens por ronda.
  • Supera al decoder Domino publicado en un 9-10% globalmente en Qwen3-4B y hasta +22% en Alpaca a cada temperatura probada.
  • En Qwen3-8B, mantiene la longitud aceptada más alta y añade una victoria decisiva de throughput de +24% sobre DDTree en T=0.

El método proporciona una aceleración significativa y tasas de aceptación en comparación con la decodificación autoregresiva, DFlash, Domino y DDTree/CaDDTree a través de varias temperaturas y modelos.