本研究提出了对 LLM-as-Judge 模型评分偏见的表示层解释，分析了裁判的隐藏状态，而不仅仅是输入-输出扰动。作者报告了针对七位裁判、七种偏见类型和九个基准的研究结果。

  • 有偏见的输入沿着低维、特定类型的子空间发生位移，该子空间随深度加深而变得更加尖锐，而基线输入占据一个紧密的激活流形。
  • 沿此子空间引导隐藏状态会推动评分向两个方向变化，而随机方向产生的偏移小一个数量级。
  • 对偏见方向特征的线性投影能够预测裁判在三个未见基准上的失败，显著优于基于文本的替代方案。

将偏见解读为激活几何结构，在一个统一的框架内整合了几何结构、因果控制和操作预测。