Los investigadores proponen Fork-think with confidence, un método que mejora el razonamiento de los grandes modelos de lenguaje identificando puntos de bifurcación mediante la confianza del modelo dentro de una única trayectoria inicial antes de muestrear múltiples continuaciones. Este paradigma de decidir primero y luego pensar contrasta con los métodos existentes que muestrean trayectorias primero y luego las podan.
- Reduce el consumo de tokens hasta un 30% y el tiempo de ejecución hasta un 57% en tres modelos y tres benchmarks de razonamiento.
- Rinde de manera comparable o mejor que el pensamiento paralelo sin requerir reentrenamiento, calentamiento ni entrenamiento fuera de línea.
- Demuestra que muestrear en posiciones posteriores conduce a generaciones sustancialmente mejores.
- Se combina con mecanismos existentes como la parada temprana y la votación ponderada para igualar el rendimiento state-of-the-art.
El enfoque establece la bifurcación predeterminada como una dirección prometedora para un razonamiento eficiente de LLM al evitar la sobre-generación inherente a los métodos de pensar primero y decidir después.