Исследование сравнивает полную инъекцию корпуса с двумя структурированными режимами извлечения для анализа транзакционных юридических документов: извлечение по эмбеддингам (NAVEMBED) и навигация LLM по компактному индексу (NAVINDEX). На бенчмарке из 20 вопросов оба метода извлечения показали результаты, равные инъекции, по семантической точности, при этом значительно сократив использование токенов.

  • NAVEMBED показал результаты, равные инъекции, в 16 из 18 вопросов, привязанных к документам, обращаясь к в 17.3 раза меньшему количеству входных токенов.
  • NAVINDEX показал результаты, равные инъекции, по всем 18 вопросам, имея общий объем токенов в 1.61 раза меньше и контекст ответа примерно в 56 раз меньше.
  • NAVINDEX достиг снижения стоимости на 25% по сравнению с базовым уровнем инъекции.

Авторы выводят замкнутое правило пересечения кэширования, отмечая, что кэшированная инъекция дешевле только тогда, когда корпус остается примерно в десять раз меньше размера полезной нагрузки извлечения.