शोधकर्ताओं ने एजेंटरूटर प्रस्तावित किया, जो एक हल्का क्लासिफायर है जो बहु-चरण एजेंटिक वर्कफ़्लो को अनुकूलित करता है, व्यक्तिगत ट्रैजेक्टरी चरणों को उचित मॉडल टियर में रूट करके, न कि सभी कार्यों के लिए एकल फ्रंटियर मॉडल का उपयोग करके। यह सिस्टम उन एंटरप्राइज सिस्टम की अक्षमता को दूर करता है जो छोटे मॉडल समान रूप से संभाल सकते हैं, ऐसे सबटास्क्स पर अपनी इनफरेंस बजट के 60-80% को व्यर्थ करते हैं।
- एजेंटरूटर में 12M पैरामीटर वाला क्लासिफायर है, जिसमें A100 GPU पर प्रति चरण 5ms से कम ओवरहेड होता है, जो पाँच निकाली जा सकने वाली विशेषताओं के आधार पर चरणों को चार मॉडल टियर में मैप करता है।
- यह 50,000 एनोटेटेड एजेंट ट्रैजेक्टरी चरणों पर प्रशिक्षित है, और फ्रंटियर-केवल बेलाइन्स के सापेक्ष 72% लागत कमी हासिल करता है, जबकि गुणवत्ता का 97.3% बनाए रखता है।
- यह सिस्टम न्यूनतम-जटिलता वाले चरणों पर 91% और दक्ष टियर के चरणों पर 85% प्रति-चरण रूटिंग सटीकता प्रदर्शित करता है।
- यह RouteLLM और FrugalGPT से बेहतर प्रदर्शन करता है, जो क्रमशः केवल 31% और 44% लागत कमी हासिल करते हैं, क्योंकि यह एकल-टर्न समाधानों द्वारा छोड़ी गई ट्रैजेक्टरी-स्तरीय गुणवत्ता निर्भरताओं को ध्यान में रखता है।