Los investigadores proponen un enfoque de recuperación ligero basado en prompting para mejorar la robustez cuando fallan las llamadas a bases de datos backend o devuelven información no coincidente en agentes de diálogo orientados a tareas, sin requerir reentrenamiento.

  • Evaluado en seis familias de modelos de peso abierto (DeepSeek-R1, Gemma-2, Llama-3, Mistral, Phi-3 y Qwen-2.5) y cuatro condiciones de base de datos que incluyen resultados vacíos y errores de API.
  • Probado en benchmarks con fallos inyectados construidos sobre los conjuntos de datos MultiWOZ 2.2 y SGD.
  • Los agentes ingenuos alucinaron en el 30,5% de las vueltas de fallo en MultiWOZ y en el 20,9% en SGD.
  • La estrategia Guided-Retry redujo las alucinaciones un 50% en MultiWOZ (a 15,3%) y un 42% en SGD (a 12,2%).
  • Las alucinaciones residuales siguieron siendo sustanciales (6-37% entre modelos), siendo los fallos de dominio incorrecto el caso más difícil.

El estudio demuestra que condicionar las respuestas en el estado estructurado de la base de datos mejora significativamente las métricas de seguridad, aunque persisten errores residuales especialmente en escenarios de recuperación complejos.