أعلنت ميتا عن إطلاق Llama 4 Scout و Llama 4 Maverick، مقدمةً بذلك أول نماذج متعددة الوسائط بشكل أصيل ذات أوزان مفتوحة والمبنية على بنية مزيج الخبراء (MoE). صُممت هذه النماذج لدعم كامل نظام Llama البيئي مع دعم غير مسبوق لطول السياق وقدرات نشر فعّالة.

  • يتميز Llama 4 Scout بـ 17 مليار معامل نشط مع 16 خبيراً، مما يتيح تشغيله على بطاقة H100 GPU واحدة مع تكميم Int4 ودعم طول سياق إدخال يبلغ 10M.
  • يستخدم Llama 4 Maverick 17 مليار معامل نشط مع 128 خبيراً موجهاً بالإضافة إلى خبير مشترك، مما يسمح بتشغيله على مضيف H100 DGX واحد مع تقليل زمن الاستدلال.
  • تستفيد كل من النموذجين من الاندماج المبكر لدمج رموز النص والرؤية بسلاسة، وتم تدريبهما على أكثر من 30 تريليون رمز بما في ذلك مجموعات بيانات متنوعة للنص والصور ومقاطع الفيديو.
  • استعرضت ميتا أيضاً نموذج Llama 4 Behemoth، وهو نموذج معلم يتفوق على GPT-4.5 و Claude Sonnet 3.7 و Gemini 2.0 Pro في معايير STEM مثل MATH-500 و GPQA Diamond.

يهدف هذا الإصدار إلى تزويد المطورين بذكاء متعدد الوسائط عالي الجودة وفعّال لبناء تطبيقات الجيل القادم للمستهلكين والأعمال.