L'article introduit l'« ancrage trompeur » (DG), un mode de défaillance dans la génération augmentée par retrieval clinique où les affirmations du modèle sont factuellement issues de documents réels mais attribuées à la mauvaise entité. Ce problème reste invisible aux vérifications standard de fidélité, d'hallucination et de citation.
- Un benchmark factoriel contrôlé sur 13 modèles révèle des taux de DG de 8 à 87 % dans des conditions adversariales, les modèles affinés pour le domaine médical atteignant jusqu'à 86,7 %.
- Des études d'ablation montrent que la suppression des preuves cliniques spécifiques à l'entité élimine l'échec d'attribution, décalant les erreurs vers la confabulation.
- Une mesure en production sur 740 paires médicament-maladie a révélé un taux global de DG de 7,8 % dans un système déployé, augmentant à 13,6 % pour les médicaments récemment approuvés.
- La vérification d'attribution d'entité détecte le DG avec une précision de 97,0 % et un rappel de 98,7 %, mais n'est pas implémentée dans les frameworks existants.
Les auteurs soutiennent que la vérification d'attribution d'entité est cruciale pour détecter ce mode de défaillance, que la spécialisation du domaine amplifie plutôt qu'elle ne l'atténue.