研究人员证明，大型语言模型残差流上的线性探针可以可靠地检测金融问答中“自信但错误”的答案，其表现优于行为置信度基线。该研究在 FinQA 和 TAT-QA 基准上使用 Qwen3-8B、Llama-3.1-8B 和 Gemma-2-9B 评估了这种方法。

  • 在八个重采样输出一致的自信答案中，FinQA 上有 15-23% 是错误的。
  • 探针检测这些幻觉的 AUROC 为 0.68-0.77，显著高于 token 对数概率和自我评估等基线的 0.55-0.63 AUROC。
  • 该方法利用内部激活来识别行为置信度指标无法捕捉的错误。

作者建议，探测提供了一种具有成本效益的分诊机制，用于在高风险金融应用中将 LLM 答案路由给人工审核。