DecompRL adalah algoritma pembelajaran penguatan yang dirancang untuk membantu Model Bahasa Besar memecahkan masalah pemrograman kompleks dengan mendekomposisinya menjadi sub-fungsi yang lebih kecil dan dapat dipecahkan secara independen. Pendekatan ini menggeser hambatan komputasi dari inferensi GPU yang mahal ke evaluasi CPU yang murah.

  • Metode ini secara eksplisit mempelajari untuk menghasilkan struktur kode hierarkis yang dapat digabungkan kembali untuk menghasilkan solusi kandidat.
  • Menggabungkan kembali implementasi modul menghasilkan hingga $k^{n}$ kandidat, mengurangi biaya token GPU sekitar 50x.
  • Pada LiveCodeBench dan CodeContests menggunakan Qwen 2.5 7B dan Code World Model 32B, DecompRL mengungguli baseline RL standar di luar 10^5 token per masalah.

Dengan membuat tugas menjadi lebih mudah melalui dekomposisi daripada mengandalkan pengambilan sampel berulang, algoritma ini memungkinkan model memecahkan masalah yang tidak dapat dicapai oleh metode generasi standar.