현대 엔드투엔드 음성 인식에서 언어 모델의 퍼플렉시티와 ASR 단어 오류율 간의 관계 재고찰

본 논문은 로그-로그 공간에서 언어 모델(LM)의 퍼플렉시티(PPL)가 자동 음성 인식(ASR) 단어 오류율(WER)의 선형 대용량 지표로 작용한다는 역사적 가정을 재검토한다. 외부 LM이 현대 엔드투엔드 ASR 시스템을 여전히 개선하는지, 그리고 내부 언어 모델링이 이 관계에 어떻게 영향을 미치는지 조사한다.

• 연구는 이미 내부 언어 모델링 능력을 갖춘 현대 시스템에서 PPL-WER 관계가 선형성을 유지하는지 여부를 조사한다.
• 인코더 컨텍스트 길이가 퍼플렉시티와 오류율 간의 관측된 상관관계에 미치는 영향을 분석한다.
• 대규모 언어 모델(LLM)의 퍼플렉시티가 기존 표준 신경 LM에 의해 확립된 트렌드에 어떻게 부합하는지 탐구한다.
• 내부 언어 모델링(ILM) 감산은 관측된 PPL-WER 관계를 변화시키는 것으로 나타났으며, 이는 외부 LM 품질을 해석할 때 디코더의 내부 LM을 고려해야 함을 시사한다.

연구 결과는 디코더의 내부 언어 모델링 능력이 외부 LM 품질이 ASR 성능에 미치는 영향에 상당한 영향을 미친다는 것을 시사한다.