DominoTree est une méthode de draftage arborescente best-first sans entraînement qui combine le drafter Domino publié avec un générateur de graphes CUDA natif au GPU pour accélérer l'inférence LLM. Il évalue les arbres drafts en utilisant la correction conditionnelle non factorisée basée sur GRU de Domino le long de chaque chemin racine-noeud, restreinte à un top-M candidat pour des raisons d'efficacité.

  • Sur Qwen3-4B à travers huit benchmarks, DominoTree atteint jusqu'à 6.6x d'accélération par rapport au décodage autoregressif et une longueur d'acceptation moyenne allant jusqu'à 10.7 tokens par tour.
  • Il devance le décodeur Domino publié de 9-10% en débit global sur Qwen3-4B et jusqu'à +22% sur Alpaca à chaque température testée.
  • Sur Qwen3-8B, il maintient la longueur acceptée la plus élevée et ajoute une victoire décisive en débit de +24% par rapport à DDTree à T=0.

La méthode offre un gain de vitesse et des taux d'acceptation significatifs par rapport au décodage autoregressif, DFlash, Domino et DDTree/CaDDTree sur diverses températures et modèles.