저자들은 MILES(Modular Instruction Memory with LEarnable Selection)를 제안합니다. 이는 순차적으로 도착하는 문제들 간에 재사용 가능한 경험을 동적으로 축적하여 테스트 시점의 대규모 언어 모델 추론을 개선하도록 설계된 프레임워크입니다. 기존 방법들이 경직된 템플릿을 저장하거나 휴리스틱 선택을 사용하는 것과 달리, MILES는 비대칭 서브-goal 임베딩과 서브-지시의 쌍으로 구성된 모듈식 메모리 유닛을 유지하며, 각각 학습 가능한 선택 헤드가 연결되어 있습니다.

  • 이 프레임워크는 거시적 수준에서 메모리 확장을 가능하게 하고 신뢰할 수 있는 샘플로부터 감독 신호를 수집하는 coarse-to-fine 검색 메커니즘을 사용합니다.
  • 미시적 단계에서는 학습된 선택 헤드를 적용하여 후보를 재랭킹하고 불확실한 샘플의 추론을 안내합니다.
  • 이 접근 방식은 제한된 감독 하에서 현실적인 테스트 시점 제약 조건 내에서 점진적인 메모리 확장을 가능하게 합니다.

광범위한 실험을 통해 MILES가 기존 방법들과 일관되게 동등하거나 우수한 성능을 보이며, 뛰어난 정확도-효율성 트레이드오프, 강건성 및 이전 가능성을 달성함을 입증했습니다.