Groc-PO引入基于接地上下文的偏好优化以减少多模态幻觉

研究人员提出了Grounded Context Preference Optimization (Groc-PO)，这是一个旨在解决多模态大语言模型（MLLMs）中不真实性问题（如视觉幻觉和内容捏造）的框架。该方法解决了信用分配挑战，其中标准的Direct Preference Optimization (DPO)未能抑制从早期接地阶段开始的错误传播，因为它仅在最终答案上应用监督。

• Groc-PO在多个接地阶段引入显式偏好监督，而不仅仅是最终输出。
• 作者构建了Grounded Context Preference Dataset (GCPD)，包含覆盖Object Grounding、Contextual Grounding和Grounded Reasoning的多阶段样本。
• 该方法旨在捕捉接地上下文的形成、整合和利用，以减轻跨阶段的错误传播。

大量实验表明，与标准DPO和其他基线相比，Groc-PO在缓解幻觉、忠实推理和整体可靠性方面提高了性能。