शोधकर्ताओं ने एजेंटरूटर का प्रस्ताव दिया, जो एक हल्का क्लासिफायर है जो प्रत्येक कार्य के लिए फ्रंटियर मॉडल का उपयोग करने के बजाय व्यक्तिगत ट्रैजेक्टरी चरणों को उचित मॉडल स्तरों पर रूट करके बहु-चरण एजेंटिक वर्कफ़्लो को अनुकूलित करता है। यह सिस्टम मौजूदा समाधानों की अक्षमता को दूर करता है जो एक ही एजेंट सत्र के भीतर बदलते उप-कार्य जटिलता को नजरअंदाज करते हैं।
- एजेंटरूटर में 12M पैरामीटर वाला मॉडल है जिसमें A100 GPU पर प्रति चरण 5ms से कम ओवरहेड होता है जो पांच विशेषताओं के आधार पर चरणों को चार स्तरों में मैप करता है।
- प्लानिंग, कोडिंग, रिसर्च और डेटा एनालिसिस कार्यों में 50,000 एनोटेटेड चरणों पर प्रशिक्षित, यह फ्रंटियर-केवल गुणवत्ता का 97.3% बनाए रखते हुए 72% लागत कमी हासिल करता है।
- न्यूनतम-जटिलता वाले चरणों पर रूटिंग सटीकता 91% और कुशल-स्तर के चरणों पर 85% तक पहुंचती है, जो RouteLLM और FrugalGPT को पछाड़ती है जिन्होंने क्रमशः केवल 31% और 44% लागत कमी हासिल की थी।
यह दृष्टिकोण ट्रैजेक्ट्री के भीतर विभिन्न चरणों को मॉडल क्षमता के विभिन्न स्तरों की आवश्यकता होती है, इस बात को पहचानकर एंटरप्राइज एजेंटिक सिस्टम के लिए इनफरेंस लागत को काफी कम करता है।