O ajuste fino QLoRA do Gemma 4 31B fecha a lacuna de extração de relações interlinguísticas para o romeno

O estudo investiga a extração de relações interlinguísticas para o romeno traduzindo o benchmark SemEval-2010 Task 8 e avaliando o Gemma 4 31B em comparação com linhas de base de codificadores. Os resultados mostram que o ajuste fino QLoRA melhora a F1-Score macro em mais de 22 pontos percentuais, reduzindo a lacuna interlinguística de 3,3 para 1,4pp.

• O romeno sofre uma queda de 3 a 5 pp em relação ao inglês em configurações apenas com prompt.
• O prompting few-shot fornece apenas ganhos marginais em comparação ao zero-shot.
• As linhas de base de codificadores ficam a 1-4pp do QLoRA Gemma, apesar de serem 50-250 vezes menores.
• O BERT monolíngue romeno com 125M parâmetros iguala o XLM-R multilíngue com 278M.

Os autores concluem que usar um modelo de 31B para RE de tarefa única no romeno é fraco em cenários de implantação onde o poder de computação importa.