研究人员提出了一种学习和认证反事实报告中介的方法,通过强制执行因果契约,使语言模型的报告与其内部信念保持一致。这种方法确保报告对禁止的影响(如用户压力)保持不变,同时对授权证据保持响应。

  • 该研究在贝叶斯见证基准上使用交换干预,因果地识别了答案、置信度和警告的低秩报告坐标。
  • 引入了一种无需训练的抗事实报告坐标 (CRC) 钳位,以引用激励中和上下文下的模型报告。
  • 在见证基准上,双次钳位实现了 1.00 的联合抵抗和更新得分,Wilson 95% 置信区间为 [0.99, 1.00]。
  • 该机制在三个模型家族中重现,并迁移到 SycophancyEval 自然阿谀基准。

该贡献提供了激活级别的反事实激励不变性,作为内部激励兼容的结构基元,提供了一种认证方法而非部署解决方案。