Pesquisadores propõem a Projeção de Gradiente Unificada (UGP), um método para mitigar o esquecimento catastrófico ao ajustar modelos grandes de ASR pré-treinados como Whisper em idiomas com poucos recursos. A UGP restringe as atualizações de parâmetros usando gradientes de referência do replay equilibrado por idioma dentro de um espaço de projeção unificado, igualando efetivamente as contribuições por idioma e reduzindo o viés do idioma dominante.
- A abordagem combina projeção em nível de gradiente com replay em nível de dados para obter ganhos complementares em estabilidade e plasticidade.
- Ela aborda a interferência entre tarefas onde idiomas dominantes tipicamente enviesam a otimização em configurações multilíngues.
- No Whisper-large-v3, a UGP alcança esquecimento médio próximo de zero em diversos grupos de idiomas com poucos recursos e escalas de modelos.
Este método permite uma adaptação eficaz para idiomas com poucos recursos enquanto mitiga substancialmente a perda de capacidades previamente aprendidas.