一项研究评估了前沿模型是否对深度研究系统中的引用验证是必需的,发现更便宜的评判模型与黄金标签相比仍具有竞争力。

  • 研究人员在包含 1,248 个评分标准决策的对抗性长文基准上,对来自 3 个模型家族的 8 款现成 LLM 评判器进行了评分。
  • GPT-5-mini 在源相关性通过类 F1 得分上达到最强,为 0.908,而事实支持得分在各模型间统计上无显著差异。
  • 尽管标量 F1 分数相当,但评判器在通过率漂移和假阳性/假阴性率方面存在显著差异。

结果表明,校准评判器是使用引用评分标准作为奖励信号的前提条件,但这种校准并不需要最昂贵的可用模型。