NAVINDEX égalise l'injection sur les documents juridiques avec un contexte 56 fois plus petit et un coût réduit de 25 %

Une étude compare l'injection de corpus complet à deux modes de récupération structurés pour l'analyse de documents juridiques transactionnels : la récupération par embedding (NAVEMBED) et la navigation LLM sur un index compact (NAVINDEX). Sur un benchmark de 20 questions, les deux méthodes de récupération ont égalé l'injection en précision sémantique tout en réduisant significativement l'utilisation de tokens.

• NAVEMBED a égalé l'injection sur 16 des 18 questions liées aux documents tout en traitant 17,3 fois moins de tokens d'entrée.
• NAVINDEX a égalé l'injection sur les 18 questions avec une empreinte totale de tokens 1,61 fois plus petite et un contexte de réponse environ 56 fois plus petit.
• NAVINDEX a atteint un coût en dollars inférieur de 25 % par rapport à la référence d'injection.

Les auteurs dérivent une règle de croisement de cache sous forme fermée, notant que l'injection mise en cache n'est moins chère que lorsque le corpus reste en dessous d'environ dix fois la charge utile de récupération.