MIRAGE 防御长文本 RAG 免受虚假信息污染

作者引入了 MIRAGE，这是一种无需训练且与模型无关的防御机制，旨在保护长文本检索增强生成 (RAG) 系统免受检索证据中虚假信息的影响。MIRAGE 构建基于 NLI 的跨文档主张图，并利用 Defended-Claims Gate 将生成条件设置为一致且多源支持的主张，或完全阻止检索。

该系统与覆盖四种扰动家族的极简污染协议一起进行评估：Unambiguous、Conflicting、Misleading 和 Fabricated。在四个长文本 QA 基准测试以及多个商业和 open-weight LLM 上的测试表明，虽然污染严重降低了普通 RAG 的性能，但 MIRAGE 在混合和完全污染的证据下始终恢复事实准确性。

MIRAGE 在保持准确性方面优于先前的 robust-RAG 方法，尽管检索到的段落中存在微妙的虚假信息或捏造内容。实现和数据集是。