Groc-PO introduz otimização de preferência com contexto fundamentado para reduzir alucinações multimodais

Pesquisadores propõem o Grounded Context Preference Optimization (Groc-PO), um framework projetado para abordar problemas de falta de veracidade, como alucinações visuais e fabricação de conteúdo em Modelos de Linguagem Grande Multimodais (MLLMs). O método aborda o desafio de atribuição de crédito onde a Direct Preference Optimization (DPO) padrão falha em suprimir a propagação de erros das etapas iniciais de fundamentação ao aplicar supervisão apenas na resposta final.

• Groc-PO introduz supervisão de preferência explícita em múltiplas etapas fundamentadas, em vez de apenas na saída final.
• Os autores constroem o Grounded Context Preference Dataset (GCPD) com amostras multietapa cobrindo Object Grounding, Contextual Grounding e Grounded Reasoning.
• Esta abordagem visa capturar a formação, integração e utilização do contexto fundamentado para mitigar a propagação de erros entre etapas.

Experimentos extensos demonstram que o Groc-PO melhora o desempenho na mitigação de alucinações, raciocínio fiel e confiabilidade geral em comparação com DPO padrão e outras linhas de base.