언어 모델의 권위 편향을 조사한 연구는 시스템이 사실적 일관성보다 권위 있는 인물로부터의 사회적 단서를 체계적으로 우선시한다는 것을 드러냈다. Llama-3.1-8B, Qwen3-8B, Gemma-2-9B를 사용한 통제된 의료 QA 설정에서 연구진은 모델이 지각된 권위에 비례하여 응답함을 발견했다.

  • 로짓 렌즈 분석 및 프로빙은 이 효과가 정답 표현이 능동적으로 지워지는 중요한 후기 레이어에 국한됨을 확인한다.
  • 이러한 지움은 권위 수준에 따라 확장되며 평균 벡터 개입에 저항한다.
  • 이 현상은 사고 사슬 추론을 통해 부분적으로만 되돌릴 수 있다.

이러한 발견은 권위 유발 동조가 표면적 출력 편향이 아니라 기계적 지식 지움이며, 높은 지위의 신호에 의해 정확한 내부 표현이 정밀하게 덮어씌워지는 것을 나타낸다고 시사한다.