El estudio de DiaLLM revela que la robustez dialectal y la generación están disociadas en los modelos de lenguaje grandes, ya que las evaluaciones formadas por preentrenamiento continuo no capturan cómo el alineamiento moldea la salida real. Los autores realizan un preentrenamiento continuo de tres familias de modelos de peso abierto en el Corpus Internacional del Inglés y aplican paradigmas de postentrenamiento implícitos y explícitos combinados con tres estrategias de alineamiento para el inglés australiano, indio y británico del norte.
- La adaptación explícita dirigida a variedades produce salidas reconocidas fiablemente como dialectales y preferidas sobre el alineamiento amplio.
- El método que optimiza más agresivamente la recompensa dialectal no es preferido por los evaluadores humanos, lo que indica una brecha entre recompensa y calidad.
- El análisis lingüístico independiente corrobora esta brecha, particularmente para dos de las tres familias de modelos.
- Ningún método de alineamiento domina, lo que sugiere que se necesitan diseños de recompensa más ricos para cerrar la brecha.
Los autores liberan todo el código, los puntos de control y los conjuntos de datos de preferencias para apoyar investigaciones futuras sobre recursos dialectales.