أطلق مختبر Thinking Machines التابع لـ Mira Murati نموذج Inkling، وهو أول نموذج متعدد الوسائط بأوزان مفتوحة. النموذج هو محوّل Mixture-of-Experts يحتوي على 975 مليار معامل إجمالي و41 مليار معامل نشط، وتم تدريبه على 45 تريليون رمز من النصوص والصور والصوت ومقاطع الفيديو.
- بموجب رخصة Apache-2.0، يُوضع Inkling كنموذج أساسي قوي للضبط الدقيق عبر منصة Tinker الخاصة بالمختبر بدلاً من كونه نموذج استنتاج متقدم.
- يوجد متغير أصغر، وهو Inkling-Small (إجمالي 276 مليار، نشط 12 مليار)، قيد الاختبار حاليًا وسيتم نشر أوزانه عند الانتهاء.
- توثيق بيانات التدريب يشير إلى استخدام محتوى المجال العام والبيانات المتاحة للعامة من الإنترنت المفتوح وأطراف ثالثة.
يهدف الإصدار إلى تقديم منافس قابل للتطبيق قائم في الولايات المتحدة للنظام البيئي للأوزان المفتوحة، مما يوفر قدرات متعددة الوسائط وتفكيرًا فعالاً للتخصيص.