本文回顾了历史假设，即语言模型 (LM) 困惑度 (PPL) 在对数-对数空间中作为自动语音识别 (ASR) 字错率 (WER) 的线性代理。它考察了外部 LM 是否仍能改善现代端到端 ASR 系统，以及内部语言建模如何影响这种关系。

  • 该研究调查了对于已经具备内部语言建模能力的现代系统，PPL-WER 关系是否仍然保持线性。
  • 它分析了编码器上下文长度如何影响观察到的困惑度与错误率之间的相关性。
  • 研究探讨了大型语言模型 (LLM) 的困惑度如何符合由标准神经网络 LM 先前确立的趋势。
  • 研究表明，内部语言建模 (ILM) 减法会改变观察到的 PPL-WER 关系，表明在解释外部 LM 质量时必须考虑解码器的内部 LM。

研究结果表明，解码器的内部语言建模能力显著影响外部 LM 质量如何影响 ASR 性能。