Los investigadores investigaron si las representaciones internas en modelos de lenguaje grandes proporcionan una ventana más directa hacia la calibración y la fidelidad que el razonamiento encadenado (CoT). Trabajando con Eternis-Forecaster 8B en OpenForesight, entrenaron sondas de agrupamiento de representaciones en activaciones intermedias que lograron una calibración sustancialmente mejor en comparación con las salidas estándar del modelo.
- Las sondas también funcionaron como detectores de mentiras, rastreando cambios conductuales y prediciendo la dirección del cambio en el 84% de los casos incluso cuando CoT ocultaba perturbaciones.
- La ablación de evidencia mostró que eliminar fuentes influyentes a menudo cambiaba las previsiones mientras dejaba intactos los rastros de razonamiento, destacando una desconexión entre la salida y el proceso.
- La respuesta forzada reveló que las previsiones están en gran medida fijadas antes de que comience el razonamiento; enrutar preguntas por distribución de respuestas preestablecida ahorró del 30 al 47% de los tokens sin pérdida de precisión.
Estos resultados establecen la sonda de representaciones internas como una herramienta práctica para calibrar, auditar y triar pronosticadores de modelos de lenguaje.