أطلقت Deutsche Telekom نموذج Soofi S 30B-A3B، وهو نموذج أساسي هجين من نوع Mamba Transformer يعتمد على مزيج الخبراء (Mixture-of-Experts) ومفتوح المصدر وسيادي، مصمم للغتين الألمانية والإنجليزية. بُني النموذج من البداية للنهاية على السحابة الصناعية للذكاء الاصطناعي الألمانية، ويقوم بتفعيل 3 مليارات فقط من بين 30 مليار معلمة لكل توكن للحفاظ على ذاكرة تخزين مؤقت للاستدلال شبه ثابتة مع نمو السياق.
- تم تدريبه مسبقاً على حوالي 27 تريليون توكن مع زيادة وزن البيانات الألمانية، ويتساوى Soofi S مع النماذج الكثيفة (Dense) التي تتراوح بين 14 و27 مليار معلمة في النتائج المجمعة لمقاييس الأداء الإنجليزية والألمانية.
- حقق أفضل النتائج المجمعة للبرمجة في اللغتين من بين 17 نموذجاً أساسياً مفتوح المصدر، وتفوق على جميع الأساسيات السيادية الأوروبية في المقارنات.
- بين النماذج المفتوحة بالكامل، حصل على أعلى درجات التقييم للإنجليزية والألمانية، متقدماً على Olmo 3 32B وApertus 70B.
- يتضمن الإصدار الأوزان، ونقاط التفتيش الوسيطة المختارة، وحساب البيانات الكامل لكل مصدر، والمعلمات الفائقة (Hyperparameters)، وأكواد التدريب والتقييم بموجب شروط مسموحة للغاية.
يوفر النموذج ميزة حاسمة في معدل الإنتاجية مقارنة بالنماذج الكثيفة لنشر السياقات الطويلة وعالية التوازي، مع توفير شفافية شاملة من خلال أدوات بناء البيانات ذات الوصول المفتوح.