研究者は、バックエンドデータベース呼び出しの失敗や、タスク指向対話エージェントにおける不整合な情報の返却時に再学習を必要とせずに堅牢性を向上させるための、軽量なプロンプトベースのリカバリ手法を提案した。

  • 空の結果やAPIエラーを含む4つのデータベース条件で、6つのオープンウェイトモデルファミリー（DeepSeek-R1、Gemma-2、Llama-3、Mistral、Phi-3、Qwen-2.5）で評価された。
  • MultiWOZ 2.2およびSGDデータセットを基盤とした障害注入ベンチマークでテストされた。
  • ナイーブなエージェントは、MultiWOZの失敗ターンにおいて30.5%、SGDでは20.9%で幻覚を生じた。
  • ガイド付きリトライ戦略により、MultiWOZでの幻覚が50%減少（15.3%に）、SGDでは42%減少（12.2%に）した。
  • 残留する幻覚は依然として顕著であり（モデル間で6-37%）、ドメイン誤りは最も困難なケースであった。

本研究は、構造化されたデータベース状態に応答を条件付けることが安全性指標を大幅に改善することを示しているが、特に複雑な検索シナリオでは残留エラーが残る。