Um estudo avalia a viabilidade de traduzir dados não ingleses para o inglês para ajustar finamente modelos BERT existentes, oferecendo uma alternativa eficiente em recursos ao desenvolvimento de modelos no idioma nativo. A pesquisa compara essa abordagem com o desempenho no idioma nativo em seis tarefas de PLN usando conjuntos de dados de búlgaro, chinês, holandês, italiano e russo.

  • O ajuste fino baseado em tradução foi comparável ou superior em 53,3 por cento dos casos em todas as configurações.
  • Os ganhos foram mais frequentes em Resposta a Perguntas, Etiquetagem de Partes do Discurso e Inferência de Linguagem Natural.
  • Quedas de desempenho foram comuns em Reconhecimento de Entidades Nomeadas e Detecção de Discurso de Ódio.
  • A abordagem é mais eficaz para tarefas que dependem de padrões sintáticos e idiomas tipologicamente próximos ao inglês, como o holandês.

Os resultados demonstram que o ajuste fino baseado em tradução fornece um caminho escalável para estender o PLN a idiomas com poucos recursos, enquanto avança na inclusão linguística.