DiaLLM 研究表明，大型语言模型中的方言鲁棒性和生成能力是脱节的，因为由持续预训练塑造的基准无法捕捉对齐如何重塑实际输出。作者在国际英语语料库（International Corpus of English）上对三个开源权重模型家族进行了持续预训练，并应用了隐式和显式后训练范式，结合针对澳大利亚、印度和英国北部英语的三种对齐策略。

  • 明确的变体目标适应产生了被可靠识别为方言且优于广泛对齐的输出。
  • 最激进地优化方言奖励的方法并未受到人类评估者的青睐，表明存在奖励与质量之间的差距。
  • 独立的语言学分析证实了这种差距，特别是在三个模型家族中的两个。
  • 没有单一的对齐方法占主导地位，这表明需要更丰富的奖励设计来缩小这一差距。

作者发布了所有代码、检查点和偏好数据集，以支持对方言资源的进一步研究。