शोधकर्ताओं ने LP-SFT का प्रस्ताव किया है, एक स्थानीय-संरक्षित निगरानी फाइन-ट्यूनिंग उद्देश्य जिसे पूर्व-प्रशिक्षित भाषा मॉडल की अंतर्निहित बहुआयामी एन्ट्रॉपी संरचना को सुरक्षित करने के लिए डिज़ाइन किया गया है। विधि वैकल्पिक टोकन का एक अनुकूली समर्थन बनाती है और मानक क्रॉस-एंट्रापी निगरानी टोकन को अनुकूलित करते समय सापेक्ष संरचना बनाए रखने के लिए स्थानीय रूप से सामान्यीकृत संरक्षण हानि लागू करती है।
- विश्लेषण से पता चलता है कि पूर्व-प्रशिक्षित मॉडल एक नियमित बहुआयामी एन्ट्रॉपी संरचना प्रदर्शित करते हैं जिसमें युगल वैकल्पिक विकल्पों के संगत चोटियाँ होती हैं।
- LP-SFT अनुकूलन के दौरान इस वितरण ज्ञान को स्पष्ट रूप से सुरक्षित रखता है, स्थानीय प्राथमिकता संरचनाओं के विरूपण को रोकता है।
- प्रयोग दिखाते हैं कि मिश्रित-डोमेन और एकल-डोमेन सेटिंग्स में LP-SFT वांछित SFT और हालिया आधारों की तुलना में समग्र प्रदर्शन में सुधार करता है।
- क्षमता ह्रास को कम करके, दृष्टिकोण pass@1 सटीकता और pass@k प्रदर्शन के बीच सर्वोत्तम संतुलन प्राप्त करता है।
यह विधि नमूना-पहुँच योग्य विविधता को बनाए रखने में मदद करती है, उस सामान्य समझौते का समाधान करती है जहाँ फाइन-ट्यूनिंग मौजूदा क्षमताओं के ह्रास की कीमत पर लक्षित डोमेन व्यवहार को बेहतर बनाती है।