研究人员调查了大型语言模型中的内部表示是否比思维链（CoT）推理提供了更直接的校准和忠实度视角。在 OpenForesight 上使用 Eternis-Forecaster 8B，他们在中间激活上训练了表示池化探针，与模型的常规输出相比，实现了显著更好的校准。

  • 探针还充当了谎言检测器，即使在 CoT 掩盖扰动的情况下，也能追踪行为变化并预测变化方向，准确率达 84%。
  • 证据消融实验表明，移除关键来源通常会改变预测结果，同时保持推理痕迹不变，突显了输出与过程之间的脱节。
  • 强制回答揭示了预测在推理开始前已基本确定；通过预设答案分布路由问题节省了 30-47% 的 token，且没有精度损失。

这些结果确立了探测内部表示作为校准、审计和分流语言模型预测器的实用工具。