作者提出了 CheckRLM,这是一个框架,通过使用检索增强生成在推理期间及时检查和纠正事实错误,从而增强推理语言模型的可靠性。该方法从推理链中提取事实声明以识别不一致之处,并通过外部知识应用成本极低的修正。

  • 提取事实声明以定位细微的知识不一致。
  • 在检测到错误时利用外部知识进行精确修正。
  • 以较低的成本缓解长程推理中的错误累积。
  • 在大量实验中显著优于现有基线。

CheckRLM 确保推理链与正确知识之间的一致性,解决知识密集型任务中的事实错误问题。