作者介绍了CLExEval，这是一个旨在通过渐进式信息掩码来评估大型语言模型（LLM）临床推理的人机循环框架。该研究结合了5,600份专家医生注释和源自40个罕见诊断病例的200条临床推理轨迹，以揭示评估幻觉，即流畅的解释掩盖了错误的诊断。

  • 在信息稀缺的情况下，GPT-4o-mini的诊断准确率从95.0%降至32.5%，表现出对冗长性的偏见。
  • 专家模型达到了92.5%的最大诊断潜力，但在冗长上下文中无法可靠地检索该知识。
  • 存在68.6%的推理与输出不匹配现象，即正确的诊断出现在轨迹中但未反映在最终答案中。
  • GPT-4o-mini在人工验证的错误集上批准了47.9%的临床错误输出，而HuatuoGPT-o1显示出积极的自我偏好偏见。

结果表明，如果没有基于专家的验证，独立的自动化临床评估可能会严重高估临床可靠性。