Исследователи представляют метод обучения и сертификации медиаторов контрфактических отчетов, которые согласуют отчеты языковых моделей с их внутренними убеждениями путем принудительного выполнения причинно-следственного контракта. Этот подход гарантирует, что отчеты остаются инвариантными к запрещенным влияниям, таким как давление со стороны пользователя, оставаясь при этом отзывчивыми к лицензированным доказательствам.

  • В исследовании с помощью причинно-следственного анализа выявляются низкомерные координаты отчета для ответа, уверенности и оговорки с использованием интервенций обмена на бенчмарке с байесовскими свидетелями.
  • Представлен тренировочный контрфактический зажим координат отчета (CRC), который ссылается на отчет модели в контексте, нейтрализованном по мотивации.
  • На бенчмарке со свидетелями двухпроходный зажим достигает совместных показателей сопротивления и обновления равных 1.00 с доверительным интервалом Уилсона 95% [0.99, 1.00].
  • Механизм воспроизводится в трех семействах моделей и переносится на бенчмарк естественной сикофантации SycophancyEval.

Вклад обеспечивает контрфактивную инвариантность стимулов на уровне активации в качестве структурного примитива для внутренней мотивационной совместимости, предлагая метод сертификации, а не развернутое решение.