本論文は、対数-対数空間において言語モデル（LM）のパープレキシティ（PPL）が自動音声認識（ASR）の単語誤り率（WER）の線形な代理指標として機能するという歴史的仮定を再検討する。外部LMが現代のエンドツーエンドASRシステムを依然として改善するのか、また内部言語モデリングがこの関係にどのように影響するのかを検証する。

  • 本研究は、すでに内部言語モデリング能力を備えた現代のシステムにおいてPPL-WERの関係が線形性を維持しているかどうかを調査する。
  • エンコーダのコンテキスト長がパープレキシティと誤り率の観測された相関に与える影響を分析する。
  • 大規模言語モデル（LLM）のパープレキシティが、標準的なニューラルLMによって以前確立されたトレンドにどのように適合するかを探る。
  • 内部言語モデリング（ILM）の減算は、観測されたPPL-WERの関係を変化させることが示されており、外部LMの品質を解釈する際にはデコーダの内部LMを考慮しなければならないことを示唆している。

知見は、デコーダの内部言語モデリング能力が外部LMの品質がASRパフォーマンスに与える影響に大きく関与していることを示唆している。