يجادل المؤلف بأن الترقية من بطاقة رسوميات واحدة إلى بطاقتين توفر فوائد أكبر من خلال المعالجة المتوازية بدلاً من تمكين استخدام تكميمات النماذج الأكبر حجماً والأعلى جودة. بالنسبة لمهام البرمجة، فإن فرق الجودة بين التكميم Q4 و Q6/Q8 ضئيل، مما يجعل نافذة السياق الأوسع والإنتاجية الأعلى أكثر قيمة.
- تستخدم الإعداد نموذج Qwen 27B كمُنسق مع سياق واسع لإدارة المهام الفرعية المقسمة.
- تقوم الوكلاء الفرعيون، مثل Qwen 35B-A3B، بمعالجة مهام ضيقة ضمن حدود سياقهم البالغة 115k ويعودون بالإبلاغ قبل الإنهاء.
- يسمح هذا الهيكل لثلاثة وكلاء بالعمل بالتوازي، مما يزيد بشكل كبير من الإنتاجية الإجمالية مقارنة بنموذج واحد.
- يتجنب النظام تحميل وتفريغ النماذج المتكرر عن طريق إبقاء الوكلاء الفرعيين نشطين لمهام محددة ومحددة جيداً.
يوفر هذا النهج قيمة عملية أكثر من محاولة تشغيل نماذج ضخمة بحجم 100B+ على عتاد غير كافٍ، مع حجز النماذج المغلقة ذات الأداء الأعلى (SOTA) فقط للمراجعات الخبيرة العرضية.