В статье вводится понятие «обманчивого заземления» (DG), режима отказа в клинической генерации с дополнением извлечением, при котором утверждения модели фактически основаны на реальных документах, но приписаны неверной сущности. Эта проблема остаётся незамеченной при стандартных проверках достоверности, галлюцинаций и цитирования.

  • Контролируемый факторный бенчмарк по 13 моделям выявляет уровни DG от 8 до 87% в условиях состязательных атак, при этом медицинские модели с тонкой настройкой достигают уровня до 86.7%.
  • Исследования абляции показывают, что удаление клинических доказательств, специфичных для сущности, устраняет отказ атрибуции, смещая ошибки в сторону конфабуляции.
  • Измерения в производстве по парам «лекарство-болезнь» (740 пар) выявили общий уровень DG 7.8% в развернутой системе, который возрастает до 13.6% для недавно одобренных препаратов.
  • Проверка атрибуции сущности обнаруживает DG с точностью 97.0% и полнотой 98.7%, однако она не реализована в существующих фреймворках.

Авторы утверждают, что проверка атрибуции сущности критически важна для обнаружения этого режима отказа, который усиливается, а не смягчается специализацией домена.