DiaLLM 연구는 국제 영어 코퍼스(International Corpus of English)에서 세 가지 오픈 가중치 언어 모델 패밀리에 대해 계속적인 사전 학습을 수행함으로써 방언 이해와 생성 간의 단절을 해결합니다. 호주 영어, 인도 영어 및 북부 영국 영어를 비교하기 위해 암시적 및 명시적 사후 학습 패러다임에 세 가지 정렬 전략을 결합하여 적용합니다.
- 방언 견고성과 생성은 분리되어 있으며, 벤치마크는 계속적인 사전 학습과 SFT를 반영하지만 정렬은 벤치마크가 놓치는 방식으로 생성을 재구성합니다.
- 명시적 변종 대상 적응은 방언으로 신뢰할 수 있게 인식되고 광범위한 정렬보다 선호되는 출력을 생성합니다.
- 방언 보상을 가장 공격적으로 최적화하는 방법은 인간 평가자에게 선호되지 않습니다.
- 독립적인 언어학적 분석은 세 모델 패밀리 중 두 가지에 걸쳐 이 보상-품질 격차를 뒷받침합니다.
저자들은 단일 정렬 방법이 지배적이지 않으며, 격차를 해소하려면 더 풍부한 보상 설계와 방언 자료에 대한 지속적인 투자가 필요하다고 결론지었습니다.