연구자들은 대규모 언어 모델의 잔류 스트림(linear probes)에 선형 탐침(probes)을 적용하여 금융 질문 응답에서 '자신이 옳다고 믿는 잘못된' 답변을 신뢰성 있게 감지할 수 있음을 보였으며, 이는 행동 기반 신뢰성 기준선을 능가하는 성능이다. 이 연구는 Qwen3-8B, Llama-3.1-8B, Gemma-2-9B를 사용하여 FinQA 및 TAT-QA 벤치마크에서 이 접근 방식을 평가했다.

  • 8개의 재표본 추출 출력이 일치한 확신 있는 답변 중 FinQA에서 15~23%가 잘못된 것으로 나타났다.
  • 이러한 환각을 감지하기 위해 탐침은 AUROC 0.68~0.77을 달성했으며, 이는 토큰 로그 확률이나 자기 평가와 같은 기준선의 AUROC 0.55~0.63보다 유의미하게 높았다.
  • 이 방법은 행동 기반 신뢰성 지표가 포착하지 못하는 오류를 내부 활성화(internal activations)를 활용해 식별한다.

저자들은 이 탐침(probing) 방법이 높은 책임이 요구되는 금융 애플리케이션에서 LLM 답변을 인간 검토로 라우팅하기 위한 비용 효율적인 선별 메커니즘을 제공한다고 제안한다.