शोधकर्ताओं ने CANON (Consensus-ANchored self-distillatiON) प्रस्तुत किया, जो एक लेबल-फ्री प्रशिक्षण विधि है जो कई समाधानों को सैंपल करने से प्राप्त कंसेंसस सिग्नल को घनत्व टोकन-स्तर की निगरानी में बदलता है। प्रत्येक अनलेबल्ड प्रॉम्प्ट के लिए, विधि बहुमत उत्तर निकालती है और मॉडल के फ्रोजन स्नैपशॉट को कंडीशन करने के लिए इसका उपयोग करती है, जो फिर हर टोकन पर मॉडल के अपने रोलआउट्स पर निगरानी करता है।
- CANON गणितीय और वैज्ञानिक तर्क बेंचमार्क्स पर pass@1 को 12 अंक तक बढ़ाता है।
- यह केवल एक सातवाँ हिस्सा कम्प्यूट का उपयोग करते हुए लेबल-फ्री रीइंफोर्समेंट लर्निंग से 6 अंक बेहतर प्रदर्शन करता है।
- विधि गोल्ड समाधानों पर कंडीशन्ड टीचर मॉडलों के प्रदर्शन स्तर के करीब पहुँचती है।
- पूल किए गए अनलेबल्ड डेटा पर प्रशिक्षित, यह हेल्ड-आउट बेंचमार्क्स में ट्रांसफर होता है, जो गोल्ड लेबल का उपयोग करने वाली विधियों के बराबर है।
लेखकों का मानना है कि यह महत्वपूर्ण है क्योंकि सुधार केवल डिस्ट्रीब्यूशन शार्पनिंग नहीं हैं; प्रशिक्षण के बाद, मॉडल उन समस्याओं को हल करता है जो पहले 32 प्रयासों में कभी हल नहीं हुए थे, और इसका बहुमत वोट स्वयं अधिक सटीक हो जाता है।