Un estudio compara la inyección de corpus completo frente a dos modos de recuperación estructurada para analizar documentos legales transaccionales: recuperación por incrustaciones (NAVEMBED) y navegación LLM sobre un índice compacto (NAVINDEX). En una prueba de referencia de 20 preguntas, ambos métodos de recuperación empataron con la inyección en precisión semántica mientras reducían significativamente el uso de tokens.
- NAVEMBED empató con la inyección en 16 de las 18 preguntas vinculadas al documento, atendiendo a 17.3 veces menos tokens de entrada.
- NAVINDEX empató con la inyección en las 18 preguntas con una huella total de tokens 1.61 veces menor y un contexto de respuesta aproximadamente 56 veces menor.
- NAVINDEX logró un costo en dólares un 25% inferior en comparación con la línea base de inyección.
Los autores derivan una regla cerrada de cruce de caché, señalando que la inyección en caché solo es más barata cuando el corpus se mantiene por debajo de aproximadamente diez veces la carga útil de recuperación.