著者らは、CLExEvalを紹介する。これは、進化的な情報マスク下で大規模言語モデル（LLM）の臨床推論を評価するために設計された、ヒューマンインザループフレームワークである。本研究は、5,600件の専門家医師による注釈と、40症例の稀な診断ケースから導出された200件の臨床推論トレースを組み合わせて、流暢な説明が誤った診断を隠蔽する評価の幻覚を暴く。

  • GPT-4o-miniの情報不足下での診断精度は95.0%から32.5%に低下し、冗長性バイアスを示している。
  • 専門モデルは最大92.5%の診断能力に達するが、冗長な文脈においてその知識を確実に取得できない。
  • 推論と出力の間に68.6%の不整合があり、正しい診断がトレースに含まれているにもかかわらず最終回答に反映されていない。
  • GPT-4o-miniは、人間検証済みの失敗セットにおいて臨床的に誤った出力の47.9%を承認し、一方HuatuoGPT-o1は肯定的な自己選好バイアスを示した。

結果は、スタンドアロンの自動臨床評価が、専門家による根拠のある検証なしに臨床信頼性を大幅に見積もりすぎている可能性を示唆している。