본 연구는 LLM-as-Judge 모델의 점수 매기기 편향에 대한 표현 수준 설명을 제시하며, 입력-출력 섭동이 아닌 판사의 은닉 상태를 분석한다. 저자들은 7개의 판사, 7가지 편향 유형, 9개의 벤치마크에 걸쳐 발견 사항을 보고한다.

  • 편향된 입력은 차원이 낮고 유형 특이적인 부분 공간을 따라 변위되며 깊이가 깊어질수록 날카로워지고, 반면 기준 입력은 조밀한 활성화 다양체를 차지한다.
  • 이 부분 공간을 따라 은닉 상태를 스티어링하면 점수가 양방향으로 구동되는 반면, 무작위 방향은 10분의 1 수준의 작은 시프트를 생성한다.
  • 편향 방향 특징에 대한 선형 투영은 보지 못한 3개의 벤치마크에서 판사의 실패를 예측하며 텍스트 기반 대안보다 크게 우수하다.

편향을 활성화 기하학으로 읽는 것은 단일 프레임워크 내에서 기하학적 구조, 인과적 제어 및 운영적 예측을 통합한다.