研究者たちは、音声言語モデルをコードスイッチング自動音声認識（ASR）にデータ効率的に適応させるための、検証可能な報酬付き実用的な強化学習レシピを提案する。この手法は、グループ相対的政策最適化を使用し、誤り率報酬と間違った文字体系をペナルティとするスクリプト忠実度報酬を組み合わせている。

  • Qwen2-Audioを使用して10言語ペアでTTSコードスイッチング音声のみでトレーニング。
  • データの10%を使用したRLVRは、フルデータセットで訓練されたLoRA教師ありファインチューニングと同等のパフォーマンスを示す。
  • 誤り率報酬は翻訳エラーを排除し、スクリプト忠実度報酬はスクリプト汚染を低減する。
  • この手法の利点は、人間が録音したコードスイッチングコーパスに対してゼロショットで転移する。

このアプローチは、類型学的に遠いペアにおいて最大の改善を示し、大規模なラベル付きデータセットを必要とせずにモデルをコードスイッチング音声に適応させるための再現可能なテストベッドを提供する。