शोधकर्ताओं ने s1 का परिचय दिया, जो एक सीधे दृष्टिकोण के माध्यम से भाषा मॉडल में परीक्षण-समय स्केलिंग प्राप्त करने की विधि है जिसमें संरक्षित डेटा और कंप्यूट नियंत्रण शामिल हैं। टीम ने तर्क ट्रेस के साथ 1,000 प्रश्नों का s1K डेटासेट बनाया और मॉडल के सोचने की प्रक्रिया को बढ़ाकर या समाप्त करके अतिरिक्त परीक्षण-समय कंप्यूट को प्रबंधित करने के लिए "बजट फोर्सिंग" विकसित किया।
- s1K पर Qwen2.5-32B-Instruct का सुपरवाइज्ड फाइन-ट्यूनिंग बजट फोर्सिंग के साथ संयुक्त होने से मॉडल उत्तरों की दोबारा जांच कर सकता है, जो अक्सर गलत तर्क चरणों को ठीक करता है।
- परिणामी s1-32B मॉडल MATH और AIME24 बेंचमार्क से प्रतियोगिता गणित के प्रश्नों पर OpenAI के o1-preview की तुलना में 27% तक अधिक है।
- बजट फोर्सिंग के साथ s1-32B का स्केलिंग इसके आधार से परे प्रदर्शन एक्सट्रापोलेशन सक्षम बनाता है, जिससे AIME24 पर स्कोर 50% से बढ़कर 57% हो जाते हैं।
यह कार्य दिखाता है कि सरल परीक्षण-समय स्केलिंग तकनीकें o1-preview जैसे अधिक जटिल प्रोप्राइटरी मॉडल की तर्क क्षमताओं को पुन: उत्पन्न कर सकती हैं और उनसे भी आगे बढ़ सकती हैं।