Исследователи изучали, обеспечивают ли внутренние представления в больших языковых моделях более прямой доступ к оценке калибровки и верности, чем рассуждения по цепочке (CoT). Работая с Eternis-Forecaster 8B на платформе OpenForesight, они обучили зонды пулинга представлений на промежуточных активациях, которые продемонстрировали существенно лучшую калибровку по сравнению со стандартными выводами модели.

  • Зонды также функционировали как детекторы лжи, отслеживая поведенческие сдвиги и предсказывая направление изменений в 84% случаев, даже когда CoT скрывала возмущения.
  • Абляция доказательств показала, что удаление влияющих источников часто меняло прогнозы, оставляя следы рассуждений нетронутыми, что подчеркивает разрыв между выводом и процессом.
  • Принудительное ответирование выявило, что прогнозы в значительной степени фиксированы до начала рассуждений; маршрутизация вопросов по заранее заданному распределению ответов сэкономила 30-47% токенов без потери точности.

Эти результаты подтверждают зондирование внутренних представлений как практический инструмент для калибровки, аудита и первичной обработки прогнозистов языковых моделей.