Microsoft Research는 추론 중 정답 레이블이나 외부 피드백 없이도 대규모 언어 모델이 자신의 경험으로부터 학습할 수 있는 프레임워크인 EvoLib를 도입했습니다. EvoLib는 원시 경험을 정적 메모리로 저장하는 대신, 지속적으로 정제되고 통합되며 재가중되는 재사용 가능한 기술과 반성적 통찰력으로 변환합니다.

  • 통합은 새로운 지식을 기존 유사 항목과 병합하여 더 일반적이고 재사용 가능한 단위를 생성합니다.
  • 동적 가중치 메커니즘은 각 지식 단위의 즉각적인 유용성과 향후 작업에 대한 장기적 영향을 기반으로 중요도를 업데이트합니다.
  • 이 시스템은 모델 업데이트 없이 API로 배포된 모든 언어 모델에 적용 가능한 블랙박스 솔루션으로 작동합니다.

EvoLib는 수학 추론, 코드 생성 및 장기간 의사결정 작업에서 최상위 검색 기반 메모리 접근 방식을 일관되게 상회합니다. 기존 방법보다 테스트 타임 컴퓨팅을 성능 향상으로 더 효율적으로 전환하며, 이질적인 작업을 마주하는 순서에 관계없이 안정적인 성능을 유지합니다.