本研究は、LLM-as-Judgeモデルにおけるスコアリングバイアスの表現レベルでの説明を提示し、入力-出力の摂動だけでなく判事の隠れ状態を分析している。著者は7つの判事、7つのバイアスタイプ、9つのベンチマークにわたる知見を報告している。

  • バイアスのある入力は低次元のタイプ固有の部分空間に沿って変位し、深さとともに鋭くなり、一方、ベースライン入力は密な活性化多様体を占める。
  • この部分空間に沿って隠れ状態をステアリングするとスコアが両方向に駆動されるのに対し、ランダムな方向では1桁小さいシフトが生じる。
  • バイアス方向の特徴への線形射影は3つの未見ベンチマークにおける判事の失敗を予測し、テキストベースの代替手法を大幅に上回る。

活性化幾何学としてバイアスを読むことは、単一の枠組み内で幾何学的構造、因果制御、運用予測を統一する。