RAPS-DA：面向鲁棒 RAG 的感知机制的对等体专业化

作者提出了 RAPS-DA，这是一种感知机制的对等体专业化框架，旨在解决检索增强生成（RAG）在检索上下文与模型参数知识发生冲突时的脆弱性问题。该方法通过训练专业化的对等体并应用针对性监督，将不同可靠性机制下的不兼容学习信号解耦。

冲突被归类为三种机制——Grounding、Arbitration 和 Resistance，每种机制从共享的基础模型中训练一个同规模的对等体专家。 样本在样本层面被硬路由到匹配的对等体，以进行策略内反向 KL（reverse-KL）监督。 双层选择器根据教师间分歧和学生熵过滤无信息 token，并对自信错位的 token 提高权重。 该方法通过在固定模型规模下进行专业化实现性能提升，对等体专家仅在训练期间存在。 实验表明，RAPS-DA 在五种冲突场景和两个分布外（out-of-distribution）基准测试中均超越了所有提示、解码、微调、强化学习（RL）及单教师基线方法。

该框架允许部署的学生模型处理异构知识冲突，且在推理过程中无需机制标签或对等体专家的访问权限。