يجادل المؤلف بأن مجتمع المصدر المفتوح يجب أن يعطي الأولوية لبناء مجموعة بيانات ضخمة عالية الجودة للتدريب المسبق بدلاً من محاولة تنسيق تدريب LLM اللامركزي عبر وحدات معالجة الرسومات المنزلية. يُقدم هذا التحول كاستجابة أكثر عملية وفورية للحظر الحكومي الأخير على النماذج الحدودية التجارية ونقص الإصدارات مفتوحة الأوزان الصغيرة والمتوسطة.
- يتجاهل المؤلف جدوى التدريب الموزع على الأجهزة الاستهلاكية في المدى القريب، مستشهداً بالحاجة إلى أبحاث أولية حول خوارزميات للشبكات ذات زمن الوصول العالي.
- تتضمن الحل المقترح إنشاء عملاء مشابهين لبرامج تحميل BitTorrent لجلب وتنظيف واستضافة البيانات من الإنترنت.
- الهدف هو قاعدة بيانات عالمية تحتوي على تريليونات من الرموز (tokens) متاحة بشكل مفتوح ومستضافة عبر أجهزة كمبيوتر فردية.
سيكون وجود مثل هذه المجموعة بيانات بمثابة بيان قوي ضد الشركات الكبرى التي تحتكر البيانات وذاكرة الفيديو (VRAM) بينما تسرع في الوقت نفسه جهود التدريب الموزع المستقبلية.