研究人员提出了一种基于提示的轻量级恢复方法，以提高任务导向对话代理在后端数据库调用失败或返回不匹配信息时的鲁棒性，且无需重新训练。

  • 在六个开源模型家族（DeepSeek-R1、Gemma-2、Llama-3、Mistral、Phi-3 和 Qwen-2.5）以及四种数据库条件下进行了评估，包括空结果和 API 错误。
  • 在基于 MultiWOZ 2.2 和 SGD 数据集构建的注入故障基准测试中进行了测试。
  • 朴素代理在 MultiWOZ 上 30.5% 的故障回合中出现幻觉，在 SGD 上为 20.9%。
  • Guided-Retry 策略将 MultiWOZ 上的幻觉减少了 50%（降至 15.3%），将 SGD 上的幻觉减少了 42%（降至 12.2%）。
  • 残留幻觉仍然显著（各模型间为 6-37%），其中错误域失败是最难的情况。

该研究表明，根据结构化数据库状态对响应进行条件化处理可显著提高安全性指标，尽管在复杂检索场景中残留错误仍然存在。