O estudo do DiaLLM revela que a robustez dialetal e a geração estão dissociadas em grandes modelos de linguagem, pois os benchmarks moldados pelo pré-treinamento contínuo não capturam como o alinhamento remodela a saída real. Os autores realizam pré-treinamento contínuo em três famílias de modelos de peso aberto no International Corpus of English e aplicam paradigmas de pós-treinamento implícitos e explícitos combinados com três estratégias de alinhamento para o inglês australiano, indiano e britânico do norte.
- A adaptação explícita voltada a variedades produz saídas reconhecidas de forma confiável como dialetais e preferidas em relação ao alinhamento amplo.
- O método que otimiza mais agressivamente a recompensa dialetal não é preferido por avaliadores humanos, indicando uma lacuna entre recompensa e qualidade.
- A análise linguística independente corrobora essa lacuna, particularmente para duas das três famílias de modelos.
- Nenhum método de alinhamento domina, sugerindo que são necessários desenhos de recompensa mais ricos para fechar a lacuna.
Os autores lançam todo o código, checkpoints e conjuntos de dados de preferências para apoiar pesquisas futuras sobre recursos dialetais.