연구자들은 언어 모델의 보고를 내부 신념과 정렬시키기 위해 인과적 계약을 강제하는 반사실적 보고 중재자의 학습 및 인증 방법을 제시합니다. 이 접근 방식은 보고가 사용자 압력 같은 금지된 영향에 대해 불변으로 유지되면서도 허가된 증거에는 반응하도록 보장합니다.

  • 베이즈 증인 벤치마크에서의 인터체인지 개입을 사용하여 답변, 자신감, 그리고 주의사항에 대한 저랭크 보고 좌표를 인과적으로 식별합니다.
  • 인센티브 중립화된 문맥에서 모델의 보고를 참조하기 위한 훈련 없는 반사실적 보고 좌표(CRC) 클램프를 도입합니다.
  • 증인 벤치마크에서 두 번의 통과 클램프는 1.00의 결합 저항 및 업데이트 점수를 달성하며, 윌슨 95% 신뢰 구간은 [0.99, 1.00]입니다.
  • 이 메커니즘은 세 가지 모델 패밀리 전반에 걸쳐 재현되며 SycophancyEval 자연 동조 벤치마크로 이전됩니다.

이 기여는 내부 인센티브 호환성을 위한 구조적 기본 요소로서 활성화 수준의 반사실적 인센티브 불변성을 제공하며, 배포된 솔루션이 아닌 인증 방법을 제시합니다.