قام مستخدم بمقارنة أداء AMD EPYC 9374f مع 9135 لاستنتاج LLM المحلي باستخدام ik_llama.cpp و Unsloth، واكتشف أن الشريحة الأحدث توفر تحسينات كبيرة في سرعة فك التشفير عند تكوينها بشكل صحيح.
- حقق 9374f سرعات أعلى لتوليد الرموز (على سبيل المثال، 12.19 ت/ث مقابل 8.68 ت/ث عند N_KV=0) مقارنة بـ 9135 عند استخدام 48 خيطًا.
- أدى استخدام 32 أو 64 خيطًا إلى أداء أسوأ من 9135، مما يشير إلى أن عدد الخيوط حاسم لهذا الحمل العمل.
- أظهر 9374f سرعات تعبئة أولية أبطأ قليلاً (على سبيل المثال، 256.90 ت/ث مقابل 257.33 ت/ث) ولكن إنتاجية فائقة أثناء التوليد.
يلاحظ المؤلف أنه على الرغم من أن 9374f أفضل لفك التشفير، إلا أنه أسوأ بكثير للألعاب، مما يشير إلى أن الترقية قد لا تكون مجدية للأنظمة ذات الاستخدام المختلط.