Pesquisadores propõem o Fork-think with confidence, um método que melhora o raciocínio de grandes modelos de linguagem identificando pontos de bifurcação usando a confiança do modelo dentro de um único caminho inicial antes de amostrar múltiplas continuações. Este paradigma de decidir primeiro e depois pensar contrasta com métodos existentes que amostram caminhos primeiro e depois os podam.
- Reduz o consumo de tokens em até 30% e o tempo de execução em até 57% em três modelos e três benchmarks de raciocínio.
- Desempenho comparável ou superior ao pensamento paralelo sem exigir retreinamento, aquecimento ou treinamento offline.
- Demonstra que amostrar em posições posteriores leva a gerações substancialmente melhores.
- Combina-se com mecanismos existentes como parada antecipada e votação ponderada para igualar o desempenho state-of-the-art.
A abordagem estabelece a bifurcação pré-determinada como uma direção promissora para raciocínio eficiente de LLM, evitando a sobre-generação inerente aos métodos de pensar primeiro e decidir depois.