Исследование ставит под сомнение преобладающий подход к оценке смещения LLM-as-Judge по входным и выходным данным, демонстрируя, что смещения закодированы в геометрии скрытых активаций модели. Авторы анализируют семь судей на девяти бенчмарках и выявляют низкомерное, тип-специфичное подпространство, в котором смещённые входные данные сдвигаются.
- Базовые входные данные для оценивания занимают плотный многообразие активаций, тогда как смещённые входные данные смещаются вдоль подпространства, которое становится более выраженным с глубиной сети.
- Управление скрытыми состояниями вдоль этого конкретного подпространства причинно влияет на оценку в обоих направлениях, тогда как случайные направления дают пренебрежимо малые эффекты.
- Линейная проекция на эти признаки направления смещения точно предсказывает сбои судей на трёх невидимых бенчмарках, превосходя текстовые методы.
Чтение смещения как геометрии активаций объединяет геометрическую структуру, причинный контроль и операционное предсказание в единой рамке для понимания поведения LLM-судей.