El artículo introduce el "aterrizaje engañoso" (DG), un modo de fallo en la generación aumentada por recuperación clínica donde las afirmaciones del modelo están fundamentadas factualmente en los documentos recuperados, pero atribuidas a la entidad incorrecta. Este problema permanece invisible para las verificaciones estándar de fidelidad, alucinación y citas porque cada afirmación proviene de un documento real.
- Un benchmark factorial controlado en 13 modelos encontró tasas de DG que oscilan entre el 8% y el 87% en condiciones adversas máximas, con modelos médicos ajustados alcanzando hasta el 86.7%.
- Se encontró que la especialización del dominio amplifica este fallo en lugar de mitigarlo.
- Los estudios de ablation identificaron que eliminar la evidencia clínica específica de entidades elimina por completo el fallo de atribución de entidades, desplazando los fallos hacia la confabulación.
- La medición en producción a través de 740 pares fármaco-enfermedad en un sistema RAG desplegado encontró un DG general del 7.8%, aumentando al 13.6% para fármacos aprobados recientemente.
- La verificación de atribución de entidades detecta DG con una precisión del 97.0% y una recuperación del 98.7%, aunque ningún marco existente lo implementa actualmente.
Los autores consideran esto importante porque los marcos de evaluación actuales no logran detectar errores de atribución de entidades, que son prevalentes en modelos especializados y sistemas de producción.