शोधकर्ता Agora प्रस्तावित करते हैं, एक फ्रेमवर्क जो बड़े भाषा मॉडल एजेंट्स के लिए विशेषज्ञ मॉडलों और उपकरणों को गतिशील रूप से कार्य आवंटित करने के लिए उत्प्रेरक-संगत नीलंद तंत्र का उपयोग करता है।
- Agora तर्क चरणों को व्यापार्य वस्तुओं के रूप में मानता है, एजेंट्स को अत्यधिक आत्मविश्वास के बजाय सुधरी हुई योग्यता के आधार पर बोली लगाने की अनुमति देता है।
- सिस्टम कार्यक्षमता रूप से समान विकल्पों के बीच प्रदर्शन भिन्नता और लागू दक्षता को ध्यान में रखते हुए महत्वपूर्ण तर्क को सबसे सक्षम हल करने वाले को रूट करता है।
- पांच बेंचमार्क्स पर मूल्यांकन दिखाते हैं कि Agora तुलनीय उम्मीदवार पूल के तहत मिलाने वाले एकल-मॉडल, रूटिंग और कैस्केड बेलाइन से बेहतर प्रदर्शन करता है।
- फ्रेमवर्क एकल नीलंद पैरामीटर के माध्यम से नियंत्रित लागू-गुणवत्ता समझौते को प्रकट करता है।
यह दृष्टिकोण मौजूदा फ्रेमवर्क्स की सीमाओं को संबोधित करता है जो मोटे-ग्रेन मिलान पर निर्भर हैं, LLM एजेंट्स के लिए बेहतर तर्क क्षमताओं और दक्षता प्रदान करता है।