Les auteurs proposent RAPS-DA, un cadre de spécialisation par pair sensible au régime conçu pour pallier la fragilité de la génération augmentée par récupération (RAG) lorsque le contexte récupéré entre en conflit avec les connaissances paramétriques du modèle. Cette approche désentrelace les signaux d'apprentissage incompatibles à travers différents régimes de fiabilité en entraînant des pairs spécialisés et en appliquant une supervision ciblée.
Les conflits sont catégorisés en trois régimes — Ancrage, Arbitrage et Résistance — avec un même spécialiste par pair à échelle identique formé par régime à partir d'un modèle de base partagé. Les échantillons sont acheminés de manière rigide vers leur pair correspondant pour une supervision inverse-KL sur politique au niveau de l'échantillon. Un sélecteur à double couche filtre les tokens non informatifs et surpondère ceux fortement désalignés en toute confiance, sur la base du désaccord inter-enseignant et de l'entropie de l'étudiant. La méthode obtient des gains grâce à la spécialisation à une échelle de modèle fixe, les spécialistes pairs n'existant que pendant l'entraînement. Les expériences montrent que RAPS-DA surpasse toutes les méthodes de prompting, de décodage, de fine-tuning, de RL et les baselines à enseignant unique dans cinq scénarios de conflit et deux benchmarks hors distribution.
Ce cadre permet au modèle étudiant déployé de gérer des conflits de connaissances hétérogènes sans nécessiter d'étiquettes de régime ni l'accès aux spécialistes pairs pendant l'inférence.