NAVINDEX는 법적 문서 인젝션과 동일한 성능을 56분의 1의 컨텍스트와 25% 낮은 비용으로 달성

본 연구는 거래형 법적 문서 분석을 위해 전체 코퍼스 인젝션과 두 가지 구조화된 검색 모드(임베딩 검색(NavEMBED) 및 컴팩트 인덱스 상의 LLM 내비게이션(NavINDEX))를 비교했습니다. 20문제로 구성된 벤치마크에서 두 검색 방법 모두 인젝션과 의미적 정확도에서 동점을 기록하며 토큰 사용량을 크게 줄였습니다.

• NavEMBED는 문서 관련 질문 18개 중 16개에서 인젝션과 동점을 기록하며 입력 토큰을 17.3분의 1로 줄였습니다.
• NavINDEX는 모든 18개 질문에서 인젝션과 동점을 기록하며 총 토큰 사용량은 1.61분의 1, 답변 컨텍스트는 약 56분의 1로 줄였습니다.
• NavINDEX는 인젝션 기준선 대비 비용이 25% 낮았습니다.

저자들은 캐시 크로스오버에 대한 폐쇄형 규칙을 유도하며, 코퍼스가 검색 페이로드의 약 10배 미만일 때만 캐시된 인젝션이 더 저렴하다고 지적했습니다.