CrowdTensor एक Apache-2.0 ओपन-सोर्स प्रोटोकॉल है, जो चेकप्वाइंटेड स्वैच्छिक मॉडल-प्रशिक्षण अभियानों के लिए है जो स्वीकृत CPU, GPU, या TPU सेल्स को सीमित कार्य देने के लिए अपरिवर्तनीय मॉडल और डेटा संशोधनों को पिन करता है। परियोजना ने Qwen2.5-7B GSM8K अभियान के लिए एक ड्राफ्ट RFC के साथ एक बीटा नामांकन प्रक्रिया जारी की है।
Qwen/Qwen2.5-7B-Instruct और openai/gsm8k का उपयोग करके पूर्ण संभावता रन ने 256 वास्तविक LoRA/SFT ऑप्टिमाइजर चरणों और 262,144 नॉन-पैडिंग टोकन के साथ प्रोटोकॉल की क्षमताओं को प्रदर्शित किया। इस परीक्षण में चरण 128 पर पूर्ण T4x2 वर्कर प्रतिस्थापन शामिल था, जिससे सामान्यीकृत सटीक मिलान में 71.875% से 74.219% की सुधार हुआ। एक छोटा फाउंडिंग SmolLM2/WikiText-2 अभियान अब सार्वजनिक HTTPS योगदान मार्गों के माध्यम से बीजित, लाइव एग्रीगेट स्थिति प्रदान कर रहा है।
परियोजना ड्राफ्ट 7B RFC की समीक्षा चाहती है, विशेष रूप से फ्रेश-होल्डआउट डिज़ाइन, चरण विस्तार नियमों और डेल्टा वैलिडेशन नीतियों के संबंध में। नामांकन अभी भी नियंत्रित है, और लेखकों ने नोट किया है कि स्वतंत्र भौतिक मल्टी-होस्ट प्रमाण और परमिशनलेस एडवर्सरियल सुरक्षा अभी भी अनुपलब्ध हैं।