研究人员引入了幻觉自博弈(HSP),该框架允许幻觉检测器利用进化生成器进行自举。该方法通过实现迭代改进而非将生成器视为静态,解决了高质量标注数据稀缺的问题。

该框架从同一基础模型初始化两个角色:用于评估忠实度的检测器和生成难以检测的幻觉的生成器。检测器在人工标注数据上进行微调,并作为奖励模型,通过来自AI反馈的强化学习(RLAIF)训练生成器。进化后的生成器随后合成幻觉数据,通过基于规则的强化学习进一步优化检测器。

在RAGTruth基准上的实验表明,HSP可以逐步增强小型LLM,使其达到或超越先进LLM的性能,而无需外部监督。