본 기사는 컨텍스트 내 검색의 이론적 분석을 제공하며, 이를 추론 트레이스 상의 근사 추론으로 모델링합니다. 여기서 기본 모델은 사전 분포를 정의하고 자기 반성은 사후 업데이트에 대한 피드백을 제공합니다. 저자들은 높은 성공 확률을 달성하는 데 필요한 순차적 시도 횟수로 정의된 결과적인 추론 시간 샘플링 복잡성을 연구합니다.
- 반성이 초기 실수를 신뢰할 수 있게 국소화할 때, 컨텍스트 내 검색은 기본 모델에 대해 지수적 개선을 가져오며, 지수적으로 작은 제로샷 통과율을 가진 문제라도 다항식 수의 순차적 시도만으로 해결합니다.
- 이 속성이 실패할 경우, 과거 시도에 대한 조건화는 병렬 샘플링에 대해 점근적 이점을 제공하지 않습니다.
- 이러한 이점은 견고하고 학습 가능합니다: 근사 사후 업데이트로 충분하며, 검색 롤아웃에 대한 교차 엔트로피 훈련은 다항식 샘플 복잡성으로 필요한 동작을 복원합니다.
- 검증 가능한 보상을 가진 강화학습의 단계적 추상화 하에서, 최적 정책 확장은 동일한 사후 재가중치 규칙을 구현합니다.
저자들은 이론의 주요 정성적 예측을 실제 대형 추론 모델에서 검증했습니다.