Prompting Guided-Retry reduz alucinação de LLM em falhas de banco de dados em diálogos orientados a tarefas

Pesquisadores propõem uma abordagem de recuperação leve baseada em prompting para melhorar a robustez quando chamadas ao banco de dados backend falham ou retornam informações incompatíveis em agentes de diálogo orientados a tarefas, sem exigir retreinamento.

• Avaliado em seis famílias de modelos de peso aberto (DeepSeek-R1, Gemma-2, Llama-3, Mistral, Phi-3 e Qwen-2.5) e quatro condições de banco de dados, incluindo resultados vazios e erros de API.
• Testado em benchmarks com falhas injetadas construídos nos conjuntos de dados MultiWOZ 2.2 e SGD.
• Agentes ingênuos alucinaram em 30,5% das voltas de falha no MultiWOZ e em 20,9% no SGD.
• A estratégia Guided-Retry reduziu a alucinação em 50% no MultiWOZ (para 15,3%) e em 42% no SGD (para 12,2%).
• A alucinação residual permaneceu substancial (6-37% entre modelos), com falhas de domínio errado sendo o caso mais difícil.

O estudo demonstra que condicionar respostas ao status estruturado do banco de dados melhora significativamente as métricas de segurança, embora erros residuais persistam especialmente em cenários de recuperação complexos.