O artigo introduz a "ancoragem enganosa" (DG), um modo de falha na geração aumentada por recuperação clínica onde as afirmações do modelo são factualmente baseadas em documentos reais, mas atribuídas à entidade errada. Este problema permanece invisível às verificações padrão de fidelidade, alucinação e citação.

  • Um benchmark fatorial controlado através de 13 modelos revela taxas de DG de 8-87% sob condições adversárias, com modelos médicos ajustados finamente atingindo até 86.7%.
  • Estudos de ablação mostram que remover evidências clínicas específicas da entidade elimina a falha de atribuição, deslocando os erros para confabulação.
  • A medição em produção através de 740 pares droga-doença encontrou uma taxa geral de DG de 7.8% em um sistema implantado, subindo para 13.6% para medicamentos aprovados recentemente.
  • A verificação de atribuição de entidades detecta DG com precisão de 97.0% e recall de 98.7%, mas não está implementada nos frameworks existentes.

Os autores argumentam que a verificação de atribuição de entidades é crítica para detectar este modo de falha, que a especialização do domínio amplifica em vez de mitigar.