O artigo introduz a "ancoragem enganosa" (DG), um modo de falha na geração aumentada por recuperação clínica onde os modelos apresentam evidência de documentos reais, mas a atribuem à entidade errada, contornando as verificações padrão de fidelidade e alucinação.
- Um benchmark em 13 modelos mostra taxas de DG de 8-87% sob condições adversárias, com modelos médicos ajustados finamente atingindo até 86,7%.
- Estudos de ablação revelam que remover a evidência específica da entidade elimina falhas de atribuição, deslocando os erros para confabulação.
- A medição em produção em 740 pares droga-doença encontrou uma taxa geral de DG de 7,8%, subindo para 13,6% para drogas aprovadas recentemente.
- A verificação de atribuição de entidades detecta DG com precisão de 97,0% e recall de 98,7%, no entanto, nenhum framework existente implementa essa verificação.
Os autores argumentam que os frameworks de avaliação atuais são insuficientes porque não verificam se a evidência citada se aplica à entidade consultada, permitindo que a ancoragem enganosa persista nos sistemas implantados.