शोधकर्ताओं ने UltraX का प्रस्ताव दिया, जो फ़ंक्शन-कॉलिंग रिफाइनमेंट फ्रेमवर्क है, जो अंतर्भूति (insertion) को हटाने और संशोधन के साथ पेश करके मौजूदा बड़े पैमाने पर डेटा प्रसंस्करण विधियों की सीमाओं को दूर करने के लिए डिज़ाइन किया गया है। यह दृष्टिकोण एक विश्वसनीय प्रोग्राम-सुपरविजन जनरेशन पाइपलाइन के माध्यम से सूक्ष्म-कण (fine-grained) इंस्टेंस-स्तर संपादन को सक्षम बनाता है जो टेक्स्ट पेयर को संरचित सुपरविजन में बदल देता है।
- फ्रेमवर्क उच्च-गुणवत्ता वाले एंड-टू-एंड परिष्कृत टेक्स्ट उत्पन्न करने के लिए विशेषज्ञ LLM का मार्गदर्शन करने के लिए डेटासेट-अनुकूलित प्रॉम्प्ट अनुकूलन का उपयोग करता है।
- लाइन अलाइनमेंट मैपिंग और गतिशील संदर्भ प्रतिस्थापन मूल्य-परिष्कृत टेक्स्ट पेयर को संरचित प्रोग्राम सुपरविजन में बदल देते हैं।
- कम-विश्वास वाले उदाहरण फ़िल्टरिंग और ऑपरेशन संयोजन द्वारा अनुपात-नियंत्रित सैंपलिंग सुपरविजन की गुणवत्ता को बेहतर बनाती है और प्रशिक्षण वितरण को स्थिर करती है।
- स्लाइडिंग-विंडो पूर्वानुमान, वैश्विक ऑपरेशन एग्रीगेशन और व्यवस्थित पोस्ट-प्रोसेसिंग निष्पादन के दौरान मॉडल आउटपुट को सामान्य और मान्य करते हैं।
प्रयोग दिखाते हैं कि UltraX सभी कॉर्पा पर उच्चतम औसत प्रदर्शन प्राप्त करता है, कम प्रशिक्षण टोकन के साथ बेसलाइन के बराबर या उससे अधिक होता है, जो मजबूत डेटा दक्षता और परिष्करण विश्वसनीयता को संकेत करता है।