نشرت مايكروسوفت التقرير التقني الخاص بنموذج Phi-4، وهو نموذج لغوي يحتوي على 14 مليار معلمة، ويعطي الأولوية لجودة البيانات من خلال الاستخدام الاستراتيجي للبيانات الاصطناعية طوال فترة التدريب. وعلى عكس نماذج في السابقة التي استخلصت القدرات من GPT-4، يتفوق Phi-4 على معلمه في مهام الإجابة على الأسئلة المركزة على العلوم والتكنولوجيا والهندسة والرياضيات (STEM)، مما يوضح أن تقنيات توليد البيانات وما بعد التدريب تمتد أبعد من مجرد الاستخلاص.
- يستخدم النموذج وصفة تدريب تركز على البيانات الاصطناعية عالية الجودة بدلاً من المحتوى الويب العضوي أو الكود فقط.
- يتفوق Phi-4 بشكل كبير على GPT-4 في قدرات الإجابة على الأسئلة المركزة على العلوم والتكنولوجيا والهندسة والرياضيات (STEM).
- يحقق أداءً قوياً مقارنة بحجمه، لا سيما في الاختبارات التي تركز على الاستدلال، وذلك بفضل تحسين البيانات، ومنهجية التدريب، والابتكارات ما بعد التدريب.
يبرز التقرير أنه على الرغم من التغييرات الطفيفة في البنية المعمارية مقارنة بـ phi-3، فإن التركيز على جودة البيانات يسمح للنموذج بتجاوز قدرات معلمه في مجالات محددة.