Prompting Guided-Retry mengurangi halusinasi LLM pada kegagalan basis data dialog berorientasi tugas

Peneliti mengusulkan pendekatan pemulihan berbasis prompting yang ringan untuk meningkatkan ketahanan ketika panggilan basis data backend gagal atau mengembalikan informasi yang tidak cocok pada agen dialog berorientasi tugas, tanpa memerlukan pelatihan ulang.

• Dievaluasi di enam keluarga model bobot terbuka (DeepSeek-R1, Gemma-2, Llama-3, Mistral, Phi-3, dan Qwen-2.5) serta empat kondisi basis data termasuk hasil kosong dan kesalahan API.
• Diuji pada benchmark yang disuntikkan kegagalan yang dibangun dari dataset MultiWOZ 2.2 dan SGD.
• Agen naif halusinasi pada 30,5% giliran kegagalan di MultiWOZ dan 20,9% di SGD.
• Strategi Guided-Retry mengurangi halusinasi sebesar 50% di MultiWOZ (menjadi 15,3%) dan 42% di SGD (menjadi 12,2%).
• Halusinasi residu tetap signifikan (6-37% di seluruh model), dengan kegagalan domain yang salah menjadi kasus tersulit.

Studi ini menunjukkan bahwa mengkondisikan respons pada status basis data terstruktur secara signifikan meningkatkan metrik keamanan, meskipun kesalahan residu tetap ada terutama dalam skenario pengambilan informasi yang kompleks.