DiaLLM 研究通过在 International Corpus of English 上对三个开源权重语言模型家族进行持续预训练,解决了理解与生成方言英语之间的脱节问题。它应用了隐式和显式后训练范式,并结合三种对齐策略来比较澳大利亚、印度和英国北部英语。

  • 方言鲁棒性与生成是解耦的;基准测试反映了持续预训练和 SFT,而对齐以基准测试未能捕捉的方式重塑了生成过程。
  • 针对特定变体的显式适应能够产生被可靠识别为方言且优于广泛对齐的输出。
  • 最激进地优化方言奖励的方法并未受到人类评估者的青睐。
  • 独立的语言学分析在三个模型家族中的两个中证实了这一奖励与质量之间的差距。

作者得出结论,没有任何一种对齐方法占主导地位,缩小这一差距需要更丰富的奖励设计和对方言资源的持续投入。