Probing keadaan internal mendeteksi halusinasi percaya diri dalam QA keuangan

Peneliti menunjukkan bahwa probe linear pada aliran residual model bahasa besar dapat secara andal mendeteksi jawaban "salah namun yakin" dalam pertanyaan-jawaban keuangan, melampaui baseline kepercayaan perilaku. Studi ini mengevaluasi pendekatan ini pada benchmark FinQA dan TAT-QA menggunakan Qwen3-8B, Llama-3.1-8B, dan Gemma-2-9B.

• Di antara jawaban yang yakin di mana delapan output resampled sepakat, 15-23% salah pada FinQA.
• Probe mencapai AUROC 0,68-0,77 untuk mendeteksi halusinasi ini, jauh lebih tinggi daripada AUROC 0,55-0,63 dari baseline seperti log-probabilitas token dan penilaian diri.
• Metode ini memanfaatkan aktivasi internal untuk mengidentifikasi kesalahan yang gagal ditangkap oleh metrik kepercayaan perilaku.

Para penulis menyarankan bahwa probing menawarkan mekanisme triase yang hemat biaya untuk mengarahkan jawaban LLM ke tinjauan manusia dalam aplikasi keuangan berisiko tinggi.