Les auteurs présentent CLExEval, un framework en boucle humaine conçu pour évaluer le raisonnement clinique des grands modèles de langage (LLM) sous masquage progressif de l'information. L'étude combine 5 600 annotations d'experts-médecins avec 200 traces de raisonnement clinique dérivées de 40 cas diagnostiques rares pour exposer les illusions d'évaluation où des explications fluides masquent des diagnostics incorrects.
- La précision diagnostique de GPT-4o-mini chute de 95,0 % à 32,5 % en situation de pénurie d'information, démontrant un biais de verbosité.
- Un modèle spécialisé atteint un potentiel diagnostique maximal de 92,5 % mais échoue à récupérer cette connaissance de manière fiable dans des contextes verbeux.
- Il y a un décalage de 68,6 % entre le raisonnement et la sortie, où des diagnostics corrects apparaissent dans les traces mais ne sont pas reflétés dans les réponses finales.
- GPT-4o-mini a approuvé 47,9 % des sorties cliniquement incorrectes sur un ensemble d'échecs vérifié par des humains, tandis que HuatuoGPT-o1 a montré un biais de préférence positive envers lui-même.
Les résultats suggèrent que les évaluations cliniques automatisées autonomes peuvent considérablement surestimer la fiabilité clinique sans validation ancrée par des experts.