أطلقت ميتا رسميًا Llama 3.1، مقدمةً طرازها الرائد بـ 405 مليار معلمة جنبًا إلى جنب مع نسخ محدثة بـ 8 مليارات و70 مليار معلمة. تضع الشركة الطراز بـ 405 مليار معلمة كأكبر نموذج أساسي متاح بشكل مفتوح في العالم، مدعيةً أنه ينافس أفضل نماذج الذكاء الاصطناعي المغلقة في القدرات مثل المعرفة العامة والرياضيات واستخدام الأدوات.
- تم تدريب Llama 3.1 بـ 405 مليار معلمة على أكثر من 15 تريليون رمز باستخدام أكثر من 16,000 وحدة معالجة رسومية H100، وتم ضغطه إلى دقة 8 بت (FP8) للاستدلال الفعال.
- تتميز النسخ المحدثة بـ 8 مليارات و70 مليار معلمة بطول سياق يبلغ 128 ألف رمز، ودعمًا متعدد اللغات، وقدرات استدلال محسّنة.
- حدّثت ميتا الترخيص للسماح للمطورين باستخدام مخرجات الطراز لتحسين نماذج أخرى، بما في ذلك من خلال توليد البيانات الاصطناعية والضغط (distillation).
- تشير تقييمات الأداء إلى القدرة على المنافسة مع GPT-4 وGPT-4o وClaude 3.5 Sonnet عبر أكثر من 150 مجموعة بيانات للمعايير.
- تتضمن الإصدار Llama Guard 3، وPrompt Guard، واقتراحًا لـ "Llama Stack" لتوحيد واجهات المكونات.
تهدف هذه الإصدار إلى خفض الحواجز أمام المطورين من خلال توفير أوزان قابلة للتخصيص يمكن تشغيلها محليًا أو على الخوادم الداخلية دون مشاركة البيانات مع ميتا.