이 논문은 솔루션 이전(hidden) 은닉 표현을 사용하여 교사의 신뢰도 추정치를 학습시키는 미래 신뢰도 증류(future confidence distillation) 방법을 소개합니다. 이 접근 방식은 모델이 답변 생성이 완료되기 전에 신뢰도와 관련된 정보를 미리 예측할 수 있게 합니다.
- 솔루션 이후의 신뢰도는 솔루션 이전의 Feeling-of-Knowing 추정치보다 일관되게 더 잘 보정되어 있으며 더 높은 판별력을 가집니다.
- 은닉 표현에 대해 학습된 선형 프로브는 모델이 명시적으로 언어화하는 것보다 훨씬 풍부한 신뢰도 관련 정보를 복원합니다.
- 증류된 예측기는 추론에 솔루션 이전 표현만 필요로 하며, 샘플 효율성이 높고 동일 도메인 내 데이터셋 간 전이가 가능합니다.
저자들은 이것이 신뢰도 인식 시스템의 하위 결정에 대해 훨씬 더 신뢰할 수 있으면서도 저비용의 신뢰도 추정치를 가능하게 하기 때문에 이를 중요하게 생각합니다.