Artikel ini memperkenalkan "grounding menipu" (DG), sebuah mode kegagalan dalam generasi yang diperkaya pengambilan informasi klinis di mana klaim model bersumber secara faktual dari dokumen nyata tetapi dikaitkan dengan entitas yang salah. Masalah ini tetap tidak terlihat oleh pemeriksaan kesetiaan, halusinasi, dan kutipan standar.
- Benchmark faktorial terkontrol pada 13 model mengungkapkan tingkat DG sebesar 8-87% dalam kondisi adversarial, dengan model yang ditala khusus untuk medis mencapai hingga 86,7%.
- Studi ablasi menunjukkan bahwa menghapus bukti klinis spesifik entitas menghilangkan kegagalan atribusi, menggeser kesalahan ke konfabulasi.
- Pengukuran produksi pada 740 pasangan obat-penyakit menemukan tingkat DG keseluruhan sebesar 7,8% dalam sistem yang diimplementasikan, meningkat menjadi 13,6% untuk obat yang baru disetujui.
- Verifikasi atribusi entitas mendeteksi DG dengan presisi 97,0% dan recall 98,7% tetapi tidak diimplementasikan dalam kerangka kerja yang ada.
Para penulis berargumen bahwa verifikasi atribusi entitas sangat penting untuk mendeteksi mode kegagalan ini, yang diperkuat oleh spesialisasi domain alih-alih dikurangi.