Pesquisadores propõem uma receita prática de aprendizado por reforço com recompensas verificáveis para a adaptação eficiente em dados de modelos de áudio-linguagem ao reconhecimento automático de fala com mudança de código (ASR). O método usa otimização relativa de política de grupo, combinando uma recompensa de taxa de erro com uma recompensa de fidelidade de script que penaliza sistemas de escrita incorretos.
- Treinamento apenas em fala de mudança de código TTS usando Qwen2-Audio em 10 pares de idiomas.
- RLVR com 10% dos dados corresponde ao ajuste fino supervisionado de LoRA treinado no conjunto completo de dados.
- A recompensa de taxa de erro elimina erros de tradução enquanto a recompensa de fidelidade de script reduz a contaminação do script.
- Os ganhos transferem-se zero-shot para um corpus de mudança de código gravado por humanos.
A abordagem mostra os maiores ganhos em pares tipologicamente distantes e fornece uma bancada de teste reproduzível para adaptar modelos à fala com mudança de código sem exigir grandes conjuntos de dados rotulados.