研究人员提出了一种新颖的框架，用于校准大型语言模型中语义嵌入的特征值，解决了传统分类校准方法不适用的空白。该方法将带有语义嵌入的 LLM 视为密度矩阵预测器，并对其特征值应用温度缩放。
- 将结合语义嵌入的 LLM 解释为密度矩阵预测器。
- 对特征值应用温度缩放以进行校准。
- 在校准下建立熵与风险的等价性。
- 推导出针对特征值的中心校准不等式。
- 证明在最小化适当评分风险时，经过温度缩放的特征值可优化校准。
在真实场景中的实验表明，当前的 LLM 系统性地过于自信，验证了理论发现并推进了语义嵌入的不确定性量化。