शोधकर्ताओं ने चयन पुरस्कार के लिए पुनर्बल सीखने (Reinforcement Learning for Selection Reward, RLSR) का प्रस्ताव दिया है, जो एक नवीनतम ढांचा है जो बड़े भाषा मॉडलों को पोस्ट-प्रशिक्षण के दौरान संरेखित करता है ताकि चयनात्मक भविष्यवाणी की प्रदर्शन को अनुकूलित किया जा सके। सटीकता या कैलिब्रेशन पर केंद्रित मौजूदा विधियों के विपरीत, RLSR अपने संरेखण उद्देश्य के रूप में जोखिम-कवरेज वक्र के नीचे के क्षेत्र (AURC) को लक्षित करता है।
- इस विधि से LLMs को उन इनपुट्स के लिए भविष्यवाणी करने की अनुमति मिलती है जहां वे सही होने की संभावना रखते हैं, जिससे त्रुटि दर कम होती है और अनिश्चित मामलों को मानव समीक्षा के लिए चिह्नित किया जाता है।
- RLSR डोमेन के भीतर और बाहर दोनों कार्यों पर कई संरेखण बेलाइनों की तुलना में जोखिम-कवरेज के बीच बेहतर संतुलन हासिल करता है।
यह दृष्टिकोण जोखिम-कवरेज के बीच संतुलन बनाकर और उच्च जोखिम वाले निर्णय लेने की प्रणालियों में मानव-AI सहयोग को सुगम बनाकर LLMs की विश्वसनीयता को बढ़ाता है।