قام مستخدم بنشر الكود والأوزان لتشغيل نموذج Cosmos3 الخاص بشركة NVIDIA الذي يحتوي على 64 مليار معلمة محليًا باستخدام التكمية INT4. تدعم التنفيذ مهام النص إلى صورة والصورة إلى الفيديو على Apple Silicon عبر MLX وكذلك CUDA.
- يوفر المستودع كود GitHub وأوزان Hugging Face لنموذج Cosmos3-Super-Text2Image-4Step-INT4-G64-BF16.
- تسمح التكمية بتشغيل النموذج الكبير ذو الـ 64B معلمة على أجهزة المستهلك، حيث تستغرق توليد مقطع واحد حوالي خمس دقائق على Mac M4 Max مع ذاكرة 128 جيجابايت.
- يتضمن المشروع مقارنة مع Grok لإظهار قدرات الأداء.
يتيح هذا الإصدار الاستدلال المحلي لنماذج توليد الصور المتطورة على الأجهزة التي تفتقر عادةً إلى ذاكرة الفيديو (VRAM) المطلوبة للأوزان بدقة كاملة.