著者は、検索拡張生成（RAG）が取得されたコンテキストとモデルのパラメトリック知識と競合する際の脆弱性を解決するために設計された、レジーム対応ピア専門化フレームワークである RAPS-DA を提案します。このアプローチは、専門的なピアのトレーニングとターゲット化された監督を適用することで、異なる信頼性レジームにわたる互換性の低い学習信号を分離します。

競合は Grounding、Arbitration、Resistance の 3 つのレジームに分類され、共有ベースモデルから各レジームごとに同じスケールのピア専門家がトレーニングされます。 サンプルは、サンプルレベルでのオンポリシー逆 KL（reverse-KL）監督のために対応するピアにハードルーティングされます。 二重層セレクターは、教師間の不一致と学生のエントロピーに基づいて無情報なトークンをフィルタリングし、自信を持ってアラインメントされていないトークンの重みを上げます。 この手法は、固定されたモデルスケールでの専門化を通じて利益を実現し、ピア専門家はトレーニング期間中のみ存在します。 実験により、RAPS-DA が 5 つの競合シナリオと 2 つの分布外（out-of-distribution）ベンチマークにおいて、すべてのプロンプティング、デコーディング、ファインチューニング、RL、シングル教師ベースラインを上回ることを示しています。

このフレームワークにより、展開された学生モデルは、レジームラベルや推論時のピア専門家へのアクセスを必要とせずに、異種知識の競合に対処できます。