对来自三个家族(2B至14B)的五款指令微调模型的研究表明,模型的拒绝行为涉及两个不同的维度:答案正确性和问题可答性。研究发现,标准的置信度分数能够追踪正确性,但对于问题是否真正可答几乎视而不见,尤其是在带有错误前提的问题上。

  • 对隐藏状态的线性探针可以以0.69至0.77的AUROC检测出不可答的问题,而P(IK)和P(True)等标准指标仍接近随机水平。
  • 指示模型检查前提条件会产生反效果,导致其质疑正确的前提(57%的错误质疑),而通过探针路由指令可使质疑精度提高三倍。
  • 使用独立的可答性和正确性分数的校准策略在阈值0.75下可保证0.75的正确答案覆盖率,而单一阈值仅为0.31。

这种方法允许在每个规模上控制不可答率,同时通过模型准确率限制错误答案率,提供了比单一阈值方法更严格的保证。