Les chercheurs présentent une méthode pour apprendre et certifier des médiateurs de rapport contrefactuel qui alignent les rapports des modèles de langage sur leurs croyances internes en imposant un contrat causal. Cette approche garantit que les rapports restent invariants aux influences interdites telles que la pression utilisateur, tout en restant réceptifs aux preuves autorisées.
- L'étude identifie causalement les coordonnées de rapport de rang faible pour la réponse, la confiance et l'avertissement à l'aide d'interventions interchange sur un benchmark Bayésien-témoin.
- Un clamp de coordonnées de rapport contrefactuel (CRC) sans entraînement est introduit pour référencer le rapport du modèle dans un contexte neutralisé des incitations.
- Sur le benchmark témoin, le clamp à deux passes atteint des scores combinés de résistance et de mise à jour de 1.00 avec un intervalle de confiance de Wilson à 95 % de [0.99, 1.00].
- Le mécanisme se reproduit sur trois familles de modèles et se transfère au benchmark de sycophantie naturelle SycophancyEval.
La contribution fournit une invariance contrefactuelle des incitations au niveau de l'activation comme primitive structurelle pour la compatibilité interne des incitations, offrant une méthode de certification plutôt qu'une solution déployée.