Исследователи предлагают дистилляцию будущего доверия для повышения надежности больших языковых моделей за счет использования временных аспектов оценки уверенности. Метод обучает предикторы на скрытых представлениях до решения, используя оценки уверенности учителя, полученные из пост-решения корректности зондов.
- Пост-решение уверенности всегда лучше калибровано и более дискриминативно, чем пре-решение уверенности.
- Линейные зонды, обученные на скрытых представлениях, восстанавливают значительно более богатую информацию, связанную с уверенностью, чем явно вербализуемые моделями.
- Дистиллированные предикторы работают на пре-решении представлений во время вывода, восстанавливая большую часть улучшения калибровки, достигнутого методами пост-решения.
- Подход остается высокоэффективным по выборке и переносится между наборами данных в рамках одной области.
Эта техника позволяет значительно более надежную и недорогую оценку уверенности, предвосхищая уверенность до завершения генерации ответа.