أطلقت فريق Falcon عائلة النماذج المفتوحة Falcon3، وهي جيل جديد يركز على توسيع القدرات في العلوم والرياضيات والبرمجة. تتضمن الإصدار خمسة نماذج أساسية: Falcon3-1B و3B و7B و10B (قائمة على المحوّل)، بالإضافة إلى Falcon3-Mamba-7B (SSM).
تشمل الابتكارات الرئيسية التدريب المسبق الضخم الفردي لنموذج 7B باستخدام 14 تريليون رمز، وزيادة العمق لإنشاء نموذج 10B متقدم، والتقطير المعرفي للنماذج الصغيرة الفعالة. تدعم العائلة أطوال سياق تصل إلى 32 ألف رمز وهي متوفرة بتنسيقات مختلفة بما في ذلك Instruct وGGUF والمتغيرات المُكمَّاة.
أظهرت نتائج الاختبارات أن Falcon3-10B-Base حقق أداءً متقدماً تحت عتبة 13 مليار معامل، مع درجات قوية على MATH-Lvl5 (22.9) وGSM8K (83.0). تُصدر النماذج بموجب رخصة Falcon LLM، مع تخطيط لإصدارات متعددة الوسائط في يناير 2025.