Les chercheurs proposent Fork-think with confidence, une méthode qui améliore le raisonnement des grands modèles de langage en identifiant les points de bifurcation à l'aide de la confiance du modèle au sein d'un seul chemin d'amorçage avant d'échantillonner plusieurs continuations. Ce paradigme « décider d'abord, puis réfléchir » contraste avec les méthodes existantes qui échantillonnent d'abord les chemins pour ensuite les élaguer.
- Réduit la consommation de tokens jusqu'à 30 % et le temps d'exécution jusqu'à 57 % sur trois modèles et trois benchmarks de raisonnement.
- Performances comparables ou supérieures à celles de la réflexion parallèle, sans nécessiter de réentraînement, de phase d'échauffement ou d'entraînement hors ligne.
- Démontre que l'échantillonnage à des positions ultérieures conduit à des générations substantiellement meilleures.
- Se combine avec des mécanismes existants tels que l'arrêt anticipé et le vote pondéré pour atteindre les performances de pointe.
L'approche établit la bifurcation prédéterminée comme une direction prometteuse pour un raisonnement LLM efficace, en évitant la surgénération inhérente aux méthodes « réfléchir d'abord, puis décider ».