MIRAGE защищает длинные RAG-системы от загрязнения дезинформацией

Авторы представляют MIRAGE, механизм защиты без дообучения и независимый от модели, предназначенный для защиты систем длинноформатного Retrieval-Augmented Generation (RAG) от дезинформации в извлеченных доказательствах. MIRAGE строит кросс-документный граф утверждений на основе NLI и использует Defended-Claims Gate для условной генерации на основе согласованных, подтвержденных несколькими источниками утверждений или полной блокировки извлечения.

Система оценивается вместе с минимальным протоколом загрязнения, охватывающим четыре семейства возмущений: Unambiguous, Conflicting, Misleading и Fabricated. Тестирование на четырех бенчмарках длинноформатного QA и нескольких коммерческих и open-weight LLM показывает, что, хотя загрязнение сильно ухудшает работу обычного RAG, MIRAGE последовательно восстанавливает фактологическую точность при смешанных и полностью загрязненных доказательствах.

MIRAGE превосходит предыдущие методы robust-RAG в поддержании точности несмотря на наличие тонкой дезинформации или вымысла в извлеченных фрагментах. Реализация и датасеты.