NAVINDEX empata injeção em documentos legais com contexto 56x menor e custo 25% menor

Um estudo compara a injeção de corpus completo contra dois modos de recuperação estruturada para analisar documentos legais transacionais: recuperação por embedding (NAVEMBED) e navegação LLM sobre um índice compacto (NAVINDEX). Em uma benchmark de 20 perguntas, ambos os métodos de recuperação empataram com a injeção em precisão semântica enquanto reduziam significativamente o uso de tokens.

• NAVEMBED empatou com a injeção em 16 das 18 perguntas vinculadas ao documento, atendendo a 17.3x menos tokens de entrada.
• NAVINDEX empatou com a injeção em todas as 18 perguntas com uma pegada total de tokens 1.61x menor e um contexto de resposta aproximadamente 56x menor.
• NAVINDEX alcançou um custo em dólar 25% menor em comparação com a linha de base de injeção.

Os autores derivam uma regra fechada de cruzamento de cache, observando que a injeção em cache é mais barata apenas quando o corpus permanece abaixo de aproximadamente dez vezes a carga útil de recuperação.