L'article introduit l'« ancrage trompeur » (DG), un mode d'échec dans la génération augmentée par retrieval clinique où les affirmations du modèle sont factuellement ancrées dans les documents récupérés mais attribuées à la mauvaise entité. Ce problème reste invisible pour les vérifications standard de fidélité, d'hallucination et de citation car chaque affirmation est sourcée à partir d'un document réel.
- Un benchmark factoriel contrôlé sur 13 modèles a révélé des taux de DG allant de 8 à 87 % dans des conditions adversariales maximales, les modèles médicallement affinant atteignant jusqu'à 86,7 %.
- Il a été constaté que la spécialisation du domaine amplifie cet échec au lieu de l'atténuer.
- Des études d'ablation ont identifié que la suppression des preuves cliniques spécifiques à l'entité élimine entièrement l'échec d'attribution d'entité, décalant les échecs vers la confabulation.
- Une mesure en production sur 740 paires médicament-maladie dans un système RAG déployé a trouvé un DG global de 7,8 %, augmentant à 13,6 % pour les médicaments récemment approuvés.
- La vérification d'attribution d'entité détecte le DG avec une précision de 97,0 % et un rappel de 98,7 %, mais aucun cadre existant ne l'implémente actuellement.
Les auteurs considèrent cela comme important car les cadres d'évaluation actuels ne parviennent pas à détecter les erreurs d'attribution d'entité, qui sont prévalentes dans les modèles spécialisés et les systèmes de production.