저자는 Microsoft의 FastContext 논문을 분석하고 코딩 에이전트에서 토큰 사용을 줄이기 위해 오프라인 시맨틱 검색을 사용하는 대안 접근 방식을 제시합니다. 저장소를 사전에 인덱싱하고 Claude Code에 파일 범위 힌트를 제공함으로써 이 방법은 SWE-QA에서 동등한 솔루션 품질을 유지하면서 총 토큰 수를 43.8% 감소시켰습니다.
- FastContext는 훈련된 하위 에이전트를 사용하여 저장소 탐색과 해결을 분리하는 반면, 이 실험에서는 오프라인 인덱싱 및 검색에 Attemory를 사용합니다.
- 테스트는 15개 저장소의 720개 쌍 샘플을 다루었으며, DeepSeek v4와 함께 Claude Code의 기준선과 검색 힌트가 있는 동일한 설정을 비교했습니다.
- 총 토큰 사용량이 43.8% 감소했으며, 메인 에이전트와 하위 에이전트의 토큰 모두 감소했지만 GPT-5.4 판정 점수는 본질적으로 변하지 않았습니다(83.39 대 83.17).
- FastContext의 온라인 에이전트 루프와 달리 Attemory는 프리필 전용 검색을 사용하여 탐색 단계의 토큰별 디코딩을 피합니다.
이 접근 방식은 간단한 오프라인 검색 힌트가 특수 훈련된 탐색기 없이도 컨텍스트 비용을 크게 낮출 수 있음을 보여주며, 코딩 에이전트를 위한 경량 대안을 제공합니다.