Para penulis memperkenalkan CLExEval, sebuah kerangka kerja manusia-dalam-loop yang dirancang untuk mengevaluasi penalaran klinis Model Bahasa Besar (LLM) di bawah masker informasi progresif. Studi ini menggabungkan 5.600 anotasi dokter ahli dengan 200 jejak penalaran klinis yang diturunkan dari 40 kasus diagnostik langka untuk mengungkap ilusi evaluasi di mana penjelasan yang lancar menutupi diagnosis yang salah.

  • Akurasi diagnostik GPT-4o-mini turun dari 95,0% menjadi 32,5% di bawah kelangkaan informasi, menunjukkan bias verbosity.
  • Model spesialis mencapai potensi diagnostik maksimum 92,5% tetapi gagal mengambil pengetahuan tersebut secara andal dalam konteks yang verbose.
  • Terdapat ketidaksesuaian 68,6% antara penalaran dan output di mana diagnosis yang benar muncul dalam jejak tetapi tidak tercermin dalam jawaban akhir.
  • GPT-4o-mini menyetujui 47,9% output yang salah secara klinis pada set kegagalan yang diverifikasi manusia, sementara HuatuoGPT-o1 menunjukkan bias preferensi positif terhadap diri sendiri.

Hasilnya menunjukkan bahwa evaluasi klinis otomatis mandiri dapat secara substansial melebih-lebihkan keandalan klinis tanpa validasi berbasis ahli.