DiaLLMの研究は、国際コーパス・オブ・イングリッシュにおいて3つのオープンウェイト言語モデルファミリーに対して継続的プリトレーニングを行うことで、方言理解と生成の間の断絶に対処する。オーストラリア英語、インド英語、北部イギリス英語を比較するために、暗黙的および明示的なポストトレーニングのパラダイムに3つのアライメント戦略を組み合わせて適用する。

  • 方言の堅牢性と生成は解離しており、ベンチマークは継続的プリトレーニングとSFTを反映しているが、アライメントはベンチマークが見逃す方法で生成を変化させる。
  • 明示的なバリエーション対象適応は、方言として確実に認識され、広範なアライメントよりも好まれる出力を生み出す。
  • 方言報酬を最も積極的に最適化する手法は、人間の評価者には好まれない。
  • 独立した言語学的分析は、3つのモデルファミリーのうち2つにおいてこの報酬と品質のギャップを確認している。

著者らは、単一のアライメント方法が支配的ではなく、ギャップを埋めるにはより豊かな報酬設計と方言リソースへの継続的な投資が必要であると結論付けている。