연구자들은 LLM 에이전트를 위한 추론 실행 방법을 도입하여, 과거 궤적에서 학습할 수 있도록 추론기에 세 가지 온라인 메모리 시스템을 갖추게 함으로써 기존 상태less 추론기의 한계를 해결했습니다. 이 접근 방식은 대조적 전이 테이블, 에피소드 메모리 및 혼란 추적자를 활용하여 시간이 지남에 따라 예측 품질을 향상시킵니다.
- 메모리 증강 추론은 액션 예측 벤치마크에서 상대 정확도 19--39% 개선을 가져옵니다.
- 관찰 예측 작업에서는 반복 액션 공간에서 최대 2.5배 성능 향상이 있습니다.
- 메모리가 축적됨에 따라 이득은 지속적으로 증가하며 다양한 비용의 추론 모델 간에 일반화됩니다.
- 모든 추론은 유휴 시간 동안 실행되어 추가된 벽시계 비용 제로와 동일한 액터 궤적을 초래합니다.
이 방법은 실행 속도나 정확도에 영향을 주지 않고 역사적 데이터를 활용하여 예측 정확도를 높임으로써 LLM 에이전트에 무손실 가속을 제공합니다.