본 기사는 에이전트의 추론 루프 내부에 메모리 저장소를 이동하여 "확장 작업 기억"을 생성할 것을 제안하며, 지연 시간은 검색 패턴이 아닌 저장소의 위치에 의해 결정된다고 주장합니다. 약 100마이크로초에 응답하는 프로세스 내 저장소를 사용함으로써 시스템은 네트워크화된 저장소의 높은 지연 시간을 피하고, 엔드투엔드 시간을 최대 83배까지 팽창시키는 것을 방지합니다.
- 중복 작업은 클라우드 왕복 시간 110ms에서 12개 중 7.2개였으나 프로세스 내 속도에서는 0개로 감소합니다.
- 제한된 창(window) 하에서 4개의 GPT-5급 모델에 대해 재현율이 0/5에서 3.6-4.8/5로 향상됩니다.
- 저장소는 100% 쓰기 영속성(244회 쓰기 모두 유지)을 유지했으며, 모든 미스는 에이전트의 읽기 정책에 기인했습니다.
- 프로세스 내 저장소를 작은 로컬 임베더와 결합하면 지배적인 임베딩 비용을 줄여 전체 작업을 약 40마이크로초로 단축합니다.
이 접근 방식은 빠르고 일정한 가용성이 메모리를 확장 작업 기억으로 변환하여 기존 외부 저장소 대비 재현율과 효율성을 크게 개선함을 보여줍니다.