NAVINDEX 在法律文书中实现与注入相同的性能，上下文缩小 56 倍，成本降低 25%

一项研究将全文本注入与两种结构化检索模式进行了比较，用于分析事务性法律文档：嵌入检索（NAVEMBED）和基于紧凑索引的 LLM 导航（NAVINDEX）。在包含 20 个问题的基准测试中，两种检索方法在语义准确性方面均与注入持平，同时显著减少了 token 的使用量。

• NAVEMBED 在 18 个文档相关问题的 16 个问题上与注入持平，同时处理的输入 token 数量减少了 17.3 倍。
• NAVINDEX 在所有 18 个问题中与注入持平，总 token 占用量缩小了 1.61 倍，回答上下文缩小了约 56 倍。
• 与注入基线相比，NAVINDEX 的成本降低了 25%。

作者推导出了一个封闭形式的缓存交叉规则，指出仅当语料库大小保持在检索负载的大约十倍以下时，缓存注入才更便宜。