MIRAGE défend le RAG long format contre la pollution par désinformation

Les auteurs présentent MIRAGE, un mécanisme de défense sans entraînement et indépendant du modèle, conçu pour protéger les systèmes de Génération Augmentée par Récupération (RAG) longue forme contre la désinformation dans les preuves récupérées. MIRAGE construit un graphe de revendications inter-documents basé sur l'inférence logique naturelle (NLI) et utilise un Defended-Claims Gate pour soit conditionner la génération sur des revendications cohérentes soutenues par plusieurs sources, soit bloquer entièrement la récupération.

Le système est évalué aux côtés d'un protocole de pollution par modification minimale couvrant quatre familles de perturbations : Unambiguous, Conflicting, Misleading et Fabricated. Les tests sur quatre benchmarks QA longue forme et plusieurs LLM commerciaux et open-weight démontrent que bien que la pollution dégrade sévèrement le RAG vanilla, MIRAGE restaure constamment la factualité sous des preuves mélangées et entièrement polluées.

MIRAGE surpasse les méthodes robust-RAG antérieures dans le maintien de la précision malgré la présence de désinformation subtile ou de fabrications dans les passages récupérés. L'implémentation et les ensembles de données sont.