लेख में तर्क दिया गया है कि एजेंटिक सिस्टम में मॉडल राउटिंग एक सरल वर्गीकरण कार्य के बजाय सिस्टम अनुकूलन की समस्या है, जो तीन प्रमुख जटिलताओं से संचालित होती है: वास्तविक लागत स्टिकर प्राइस के बजाय कैशिंग व्यवहार पर निर्भर करती है, कार्य की कठिनाई अक्सर राउटिंग समय पर अदृश्य होती है, और विलंबता बुनियादी ढांचे की स्थिति द्वारा प्रभावी होती है।
- CodeAct एजेंट के साथ AppWorld टेस्ट चुनौती में, Claude Sonnet की कुल लागत $79 थी जबकि GPT-4.1 की लागत $155 थी क्योंकि Sonnet का कम कैश-रीड प्राइस उच्च हिट रेट्स से लाभान्वित हो रहा था।
- एक मानक कठिनाई-आधारित राउटर ने पूरे ट्रेडऑफ स्पेस का अन्वेषण करने वाले अनुकूलन-आधारित दृष्टिकोण की तुलना में समान सटीकता लेकिन उच्च लागत पर पहुंचा।
- लेखकों के हल्के राउटर (प्रति कार्य 6 ms और 2 kB मेमोरी) ने 84% सटीकता, $93 लागत और 83s विलंबता के साथ एक कॉन्फ़िगरेशन हासिल किया, जो केवल Opus चलाने की तुलना में 21% लागत कमी और 9% विलंबता कमी का प्रतिनिधित्व करता है।
लेखक निष्कर्ष निकालते हैं कि प्रभावी राउटिंग पूरी सिस्टम के लिए सबसे अच्छा ऑपरेटिंग पॉइंट खोजता है जो लागत, गुणवत्ता, विलंबता, अनुपालन और विश्वसनीयता को एक साथ संतुलित करता है।