يتحدى مستخدم في رديت الرأي القائل بأن نماذج Mixture of Experts (MoE) أدنى من النماذج الكثيفة (dense) لمجرد أنها تحتوي على عدد أقل من المعاملات النشطة، مستشهداً بمثال Qwen 3.5 122B الذي يحتوي فقط على 10B معامل نشط.
- يجادل المستخدم بأنه إذا كان نموذج MoE بحجم 122B يعادل نموذجاً كثيفاً بحجم 10B، فإن المزودين سيصدرون النسخة الكثيفة الأسرع بدلاً من ذلك، لأنها تتجنب عبء التوجيه (routing overhead).
- يقترحون أن قيمة نموذج MoE تعتمد على فعالية الموجه في اختيار الخبراء الأمثل لتفعيل إجمالي إمكانات معاملاته.
- يسلط المنشور الضوء على أن بعض هندسات MoE قد تكون أكثر فعالية من غيرها، مما يوحي بأن المقارنة أكثر تعقيداً من مجرد عد المعاملات النشطة.