Los investigadores proponen una receta práctica de aprendizaje por refuerzo con recompensas verificables para la adaptación eficiente en datos de modelos de audio-lenguaje al reconocimiento automático del habla con cambio de código (ASR). El método utiliza optimización relativa de política de grupo, combinando una recompensa de tasa de error con una recompensa de fidelidad de guion que penaliza los sistemas de escritura incorrectos.
- Entrenamiento solo en habla de cambio de código TTS usando Qwen2-Audio a través de 10 pares de idiomas.
- RLVR con el 10% de los datos coincide con el ajuste fino supervisado de LoRA entrenado en el conjunto completo de datos.
- La recompensa de tasa de error elimina errores de traducción mientras que la recompensa de fidelidad de guion reduce la contaminación del guion.
- Las ganancias se transfieren a cero disparos a un corpus de cambio de código grabado por humanos.
El enfoque muestra las mayores ganancias en pares tipológicamente distantes y proporciona una plataforma de prueba reproducible para adaptar modelos al habla con cambio de código sin requerir grandes conjuntos de datos etiquetados.