Este artigo fornece uma análise teórica da busca em contexto, modelando-a como inferência aproximada sobre traços de raciocínio onde o modelo base define uma priori e a autorreflexão fornece feedback para atualizações posteriores. Os autores estudam a complexidade de amostragem no tempo de inferência resultante, definida como o número de tentativas sequenciais necessárias para alcançar alta probabilidade de sucesso.
- Quando as reflexões localizam confiavelmente erros iniciais, a busca em contexto gera melhorias exponenciais em relação ao modelo base, resolvendo problemas com taxas de acerto zero-shot exponencialmente pequenas usando apenas um número polinomial de tentativas sequenciais.
- Se essa propriedade falhar, condicionar sobre tentativas passadas não oferece benefício assintótico em comparação à amostragem paralela.
- Esses ganhos são robustos e aprendíveis: atualizações posteriores aproximadas são suficientes, e o treinamento por entropia cruzada em rollouts de busca recupera o comportamento necessário com complexidade de amostra polinomial.
- Sob uma abstração em estágios do aprendizado por reforço (reinforcement learning) com recompensas verificáveis, a extensão ótima da política implementa a mesma regra de reponderação posterior.
Os autores validam previsões qualitativas-chave da teoria em grandes modelos reais de raciocínio.