Este estudio presenta una explicación a nivel de representación del sesgo de puntuación en modelos LLM-as-Judge, analizando los estados ocultos del juez en lugar de solo perturbaciones de entrada-salida. Los autores reportan hallazgos en siete jueces, siete tipos de sesgo y nueve benchmarks.

  • Las entradas sesgadas se desplazan a lo largo de un subespacio de baja dimensión específico del tipo que se agudiza con la profundidad, mientras que las entradas base ocupan una variedad de activación compacta.
  • Guiar los estados ocultos a lo largo de este subespacio impulsa la puntuación en ambas direcciones, mientras que las direcciones aleatorias producen desplazamientos un orden de magnitud menores.
  • Una proyección lineal sobre características de dirección de sesgo anticipa fallos del juez en tres benchmarks no vistos, superando sustancialmente a las alternativas basadas en texto.

Leer el sesgo como geometría de activación unifica la estructura geométrica, el control causal y la predicción operativa dentro de un solo marco.