본 기사는 "기만적 그라운딩"(DG)이라는 개념을 소개합니다. 이는 임상 검색 증강 생성(RAG)에서 모델의 주장이 실제 문서에서 사실적으로 유래했음에도 불구하고 잘못된 엔티티에 귀속되는 실패 모드입니다. 이 문제는 표준적인 신빙성, 환각, 인용 검사에서는 보이지 않습니다.

  • 13개 모델에 걸친 통제된 요인 설계 벤치마크는 적대적 조건 하에서 DG율이 8~87%임을 보여주며, 의료 파인튜닝 모델은 최대 86.7%에 달합니다.
  • 아블레이션 연구는 엔티티별 임상 증거를 제거하면 귀속 실패가 사라지고 오류가 허구 생성(confabulation)으로 전환됨을 보여줍니다.
  • 740개 약물-질병 쌍에 대한 프로덕션 측정은 배포된 시스템에서 전체 DG율이 7.8%이며, 최근 승인된 약물의 경우 13.6%로 증가함을 발견했습니다.
  • 엔티티 귀속 검증은 DG를 97.0%의 정밀도와 98.7%의 재현율로 감지하지만 기존 프레임워크에는 구현되어 있지 않습니다.

저자들은 엔티티 귀속 검증이 이 실패 모드를 감지하는 데 중요하며, 도메인 특화화가 이를 완화하는 것이 아니라 증폭시킨다고 주장합니다.