本記事は、「欺瞞的グラウンディング」（DG）という概念を導入しています。これは、臨床的な検索拡張生成（RAG）における失敗モードで、モデルの主張が実際の文書から事実的に由来しているにもかかわらず、誤ったエンティティに帰属される現象です。この問題は、標準的な忠実度、幻覚、引用チェックでは検出できません。

  • 13モデルにわたる制御された階乗ベンチマークにより、敵対的条件下でDG率が8〜87%であることが明らかになりました。医療用にファインチューニングされたモデルでは最大86.7%に達します。
  • アブレーション研究により、エンティティ固有の臨床証拠を除去すると帰属失敗が解消され、エラーが虚偽生成（confabulation）へとシフトすることが示されました。
  • 740の薬物-疾患ペアにおける生産環境での測定では、導入済みシステムで全体のDG率が7.8%であり、最近承認された薬物では13.6%に上昇することが発見されました。
  • エンティティ帰属検証は、DGを97.0%の精度と98.7%の再現率で検出しますが、既存のフレームワークには実装されていません。

著者らは、エンティティ帰属検証がこの失敗モードを検出するために重要であり、ドメイン特化がこれを軽減するのではなく増幅させると主張しています。