शोधकर्ताओं ने कम-है-ज़्यादा तर्क परिकल्पना (Less-Is-More Reasoning Hypothesis) प्रस्तावित की, यह दर्शाते हुए कि बड़े भाषा मॉडलों में जटिल गणितीय तर्क न्यूनतम, रणनीतिक रूप से डिज़ाइन किए गए उदाहरणों से उत्पन्न हो सकता है, न कि विशाल डेटासेट्स से। सरल पर्यवेक्षित सूक्ष्म-अनुकूलन (supervised fine-tuning) के माध्यम से, उनका मॉडल LIMO ने AIME24 पर 63.3% सटीकता और MATH500 पर 95.6% सटीकता प्राप्त की।
- पूर्व दृष्टिकोणों द्वारा आवश्यक प्रशिक्षण डेटा का केवल 1% उपयोग करते हुए, AIME24 पर 6.5% और MATH500 पर 59.2% से अधिक अग्रता दर्ज की।
- विविध बेंचमार्क्स में 45.8% की निरंतर सुधार के साथ मजबूत आउट-ऑफ-डिस्ट्रीब्यूशन सामान्यीकरण प्रदर्शित करता है, जो 100 गुना अधिक डेटा पर प्रशिक्षित मॉडलों को पछाड़ता है।
प्राप्ति से संकेत मिलता है कि व्यापक पूर्व-प्रशिक्षित ज्ञान वाले आधारभूत मॉडलों में, जटिल तर्क उस ज्ञान भंडार की पूर्णता और एक संज्ञानात्मक टेम्पलेट के रूप में पोस्ट-प्रशिक्षण उदाहरणों की प्रभावकारिता द्वारा उत्पन्न होता है।