يقترح الباحثون AgentRouter، وهو مصنف خفيف الوزن يحسّن سير العمل الوكيلّي متعدد الخطوات عن طريق توجيه خطوات المسار الفردية إلى طبقات نماذج مناسبة بدلاً من استخدام أحدث النماذج لكل مهمة. يعالج النظام عدم كفاءة الحلول الحالية التي تتجاهل تعقيد المهام الفرعية المتفاوتة داخل جلسة وكيل واحدة.
- يستخدم AgentRouter نموذجًا يحتوي على 12 مليون معلمة مع تجاوز أقل من 5 مللي ثانية لكل خطوة على وحدة معالجة الرسومات A100 لربط الخطوات بأربع طبقات بناءً على خمس ميزات.
- تم تدريبه على 50,000 خطوة مُعلّمة عبر مهام التخطيط والبرمجة والبحث وتحليل البيانات، ويحقق انخفاضًا في التكلفة بنسبة 72٪ مع الاحتفاظ بـ 97.3٪ من جودة النماذج الأمامية وحدها.
- تصل دقة التوجيه إلى 91٪ على الخطوات ذات التعقيد الأدنى و85٪ على خطوات الطبقة الفعّالة، متفوقةً على RouteLLM وFrugalGPT اللذين حققا انخفاضًا في التكلفة بنسبة 31٪ و44٪ على التوالي.
يخفض هذا النهج تكاليف الاستدلال بشكل كبير لأنظمة الوكلاء المؤسسية من خلال إدراك أن الخطوات المختلفة داخل مسار واحد تتطلب مستويات متفاوتة من قدرة النموذج.