RLSR menyelaraskan LLM dengan prediksi selektif menggunakan AURC

Peneliti mengusulkan Reinforcement Learning for Selection Reward (RLSR), sebuah kerangka kerja baru yang menyelaraskan model bahasa besar selama pasca-pelatihan untuk mengoptimalkan kinerja prediksi selektif. Berbeda dengan metode yang ada yang berfokus pada kebenaran atau kalibrasi, RLSR menargetkan area di bawah kurva risiko-cakupan (AURC) sebagai tujuan penyelarasan.

• Metode ini memungkinkan LLM hanya memprediksi untuk input di mana mereka kemungkinan benar, mengurangi tingkat kesalahan dan menandai kasus yang tidak pasti untuk tinjauan manusia.
• RLSR mencapai trade-off risiko-cakupan yang jauh lebih baik dibandingkan beberapa baseline penyelarasan pada tugas in-domain maupun out-of-domain.

Pendekatan ini meningkatkan keandalan LLM dengan menyeimbangkan trade-off risiko-cakupan dan memungkinkan kolaborasi manusia-AI yang mulus dalam sistem pengambilan keputusan berisiko tinggi.