DiaLLM 연구는 대규모 언어 모델에서 방언적 견고성과 생성이 분리되어 있으며, 지속적 사전 학습으로 형성된 벤치마크가 정렬이 실제 출력을 어떻게 재형성하는지 포착하지 못한다는 것을 드러냈다. 저자들은 International Corpus of English에서 세 가지 오픈 가중치 모델 패밀리에 지속적 사전 학습을 적용하고 호주 영어, 인도 영어 및 북부 영국 영어에 대해 암시적 및 명시적 사후 학습 패러다임과 세 가지 정렬 전략을 결합했다.\n\n- 명시적 변종 대상 적응은 방언적으로 신뢰할 수 있게 인식되며 광범위한 정렬보다 선호되는 출력을 생성한다.
- 방언적 보상을 가장 공격적으로 최적화하는 방법은 인간 평가자에게 선호되지 않아 보상-품질 격차를 나타낸다.
- 독립적인 언어학적 분석은 이 격차를 뒷받침하며, 특히 세 모델 패밀리 중 두 가지에서 두드러진다.
- 단일 정렬 방법이 지배적이지 않으며, 이는 격차를 해소하기 위해 더 풍부한 보상 설계가 필요함을 시사한다.
\n저자들은 방언 자원 연구 지원을 위해 모든 코드, 체크포인트 및 선호 데이터셋을 공개했다.