O artigo introduz a "ancoragem enganosa" (DG), um modo de falha na geração aumentada por recuperação clínica em que as afirmações do modelo são factualmente fundamentadas nos documentos recuperados, mas atribuídas à entidade errada. Esse problema permanece invisível às verificações padrão de fidelidade, alucinação e citação porque toda afirmação é originada de um documento real.
- Um benchmark fatorial controlado em 13 modelos encontrou taxas de DG variando de 8-87% nas condições adversas máximas, com modelos finamente ajustados para medicina atingindo até 86,7%.
- A especialização de domínio foi encontrada para amplificar essa falha em vez de mitigá-la.
- Estudos de ablação identificaram que a remoção de evidências clínicas específicas da entidade elimina completamente a falha de atribuição de entidade, deslocando as falhas para confabulação.
- A medição na produção em 740 pares droga-doença em um sistema RAG implantado encontrou 7,8% de DG geral, subindo para 13,6% para drogas recentemente aprovadas.
- A verificação de atribuição de entidade detecta DG com precisão de 97,0% e recall de 98,7%, embora nenhum framework existente a implemente atualmente.
Os autores consideram isso importante porque os frameworks de avaliação atuais falham em detectar erros de atribuição de entidade, que são prevalentes em modelos especializados e sistemas de produção.