أطلقت Thinking Machines Lab نموذج Inkling، وهو نموذج جديد متعدد الوسائط من نوع Mixture-of-Experts مصمم للاستدعاء الفعال للرموز والفهم الأصلي لإدخالات النص والصوت والصور. توفر Together AI هذا النموذج على منصة الاستدلال الخاصة بها مع وصول فوري.
- يتميز Inkling بـ 975B معامل إجمالي مع 40B معامل نشط لكل رمز ونافذة سياق بحجم 1M.
- تستخدم البنية الانتباه النسبي المشروط بالاستعلام، والتلافيف السببية القصيرة، وخزان الخبراء المشترك للتنفيذ الفعال.
- يدعم جهد استدلال قابل للتحكم، مما يسمح للمطورين بضبط عمق الاستدلال، وزمن الوصول، واستخدام الرموز.
- أظهرت التقييمات الأولية أداءً قوياً في مهام الاستدلال العلمي والرياضيات والبرمجة والتنبؤ.
- يقبل النموذج إدخالات النص والصورة والصوت عبر مجموعة فك تشفير موحدة لإنتاج مخرجات نصية.
يمكن للمطورين الوصول إلى Inkling عبر Together AI Serverless مع واجهات برمجة تطبيقات متوافقة مع OpenAI، مما يتيح إنشاء تطبيقات متعددة الوسائط دون إدارة البنية التحتية.