El artículo introduce el "aterrizaje engañoso" (DG), un modo de fallo en la generación aumentada por recuperación clínica donde los modelos presentan evidencia de documentos reales pero la atribuyen a la entidad incorrecta, eludiendo las verificaciones estándar de fidelidad y alucinación.
- Un benchmark entre 13 modelos muestra tasas de DG del 8-87% bajo condiciones adversarias, con modelos médicos ajustados finamente alcanzando hasta el 86,7%.
- Los estudios de ablation revelan que eliminar la evidencia específica de la entidad elimina los fallos de atribución, desplazando los errores hacia la confabulación.
- La medición en producción en 740 pares fármaco-enfermedad encontró una tasa general de DG del 7,8%, aumentando al 13,6% para fármacos aprobados recientemente.
- La verificación de atribución de entidades detecta DG con una precisión del 97,0% y una recuperación del 98,7%, sin embargo, ningún marco existente implementa esta verificación.
Los autores argumentan que los marcos de evaluación actuales son insuficientes porque no verifican si la evidencia citada se aplica a la entidad consultada, permitiendo que el aterrizaje engañoso persista en los sistemas desplegados.