一项研究评估了大型语言模型智能体系统在72个涵盖I至IV期的真实临床病例中生成乳腺癌治疗推荐的能力。该研究利用通过非对称信息评分标准生成(Asymmetric Information Rubric Generation, AIRG)生成的1,147个案例特定评分标准,来评估在复杂肿瘤学规划中的可靠性。
- 比较了七种流水线,包括单一大语言模型基线、工具增强系统以及具有事实检查和自主子智能体生成的多智能体架构。
- 表现最佳的配置是Claude Opus 4.8配合D&C+SA流水线,实现了0.594 ± 0.025的全局得分。
- 工具使用和增加智能体自主性产生了混合影响,在某些情况下提高了性能,但在其他情况下则降低了性能。
- 肿瘤学家主导的错误分析揭示了持续存在的临床相关失败,包括错误的推荐、有缺陷的论证、引用错误、过时的声明和过度自信。
研究结果表明,虽然智能体大语言模型系统可以生成具有临床相关性的乳腺癌推荐,但它们对于无监督的临床使用仍然不足。