Peneliti menunjukkan bahwa Group Relative Policy Optimization (GRPO) secara signifikan mengungguli penyetelan halus terawasi (SFT) saat menyesuaikan model pengenalan suara otomatis berbasis LLM ke domain yang diatur menggunakan hanya data teks-ke-suara sintetis. Pendekatan ini mengatasi ketidakcocokan akustik antara rekaman sintetis dan nyata sambil menghindari batasan privasi terkait pengumpulan ucapan nyata.

  • Adaptasi hanya sintetis dengan GRPO mengurangi Word Error Rate (WER) sebesar 40% relatif terhadap SFT, menurunkannya dari 36,71% menjadi 22,09%.
  • Menggabungkan SFT dengan GRPO lebih meningkatkan kinerja, mencapai pengurangan WER sebesar 45%.
  • Peningkatan ini berasal dari perubahan perilaku daripada pergeseran representasi, khususnya kalibrasi berhenti yang lebih baik dan penjajaran ucapan-ke-teks melalui jangkar perhatian.
  • Representasi lapisan awal tetap utuh sementara kesalahan sisipan berkurang.

Para penulis menyimpulkan bahwa ketika ucapan sintetis adalah sumber daya utama untuk adaptasi model, metode pembelajaran penguatan seperti GRPO harus dipilih daripada penyetelan halus terawasi.