研究人员引入未来置信蒸馏，通过利用置信估计的时间方面来提高大型语言模型的可靠性。该方法在解前隐藏表示上训练预测器，使用从解后正确性探针导出的教师置信估计。

  • 解后置信度始终比解前置信度校准得更好且具有更强的判别力。
  • 在隐藏表示上训练的线性探针恢复的与置信度相关的信息比模型明确表达的信息丰富得多。
  • 蒸馏预测器在推理期间操作于解前表示，恢复了由解后方法实现的校准改进的大部分。
  • 该方法在样本效率方面保持高效，并在同一领域内的数据集之间进行迁移。

该技术通过在答案生成完成之前预测置信度，实现了显著更可靠且低成本的置信度估计。