यह लेख MIGHT स्टैक (मॉडल, इनफरेंस, गेटवेज़, हैर्नेस, टूल्स) को रेखांकित करता है, एक मॉड्यूलर आर्किटेक्चर जो डेवलपर्स को गहरी मशीन लर्निंग विशेषज्ञता या समर्पित हार्डवेयर की आवश्यकता के बिना एजेंटिक सॉफ्टवेयर के लिए ओपन सोर्स मॉडल का लाभ उठाने की अनुमति देता है।
- मॉडल परत बुद्धिमत्ता घटक के रूप में कार्य करती है, जहाँ Kimi K3 जैसे बड़े मॉडल जटिल तर्क के लिए उपयुक्त हैं और GLM 5.3 Flash जैसे छोटे मॉडल संकीर्ण कार्यों के लिए गति और लागत दक्षता प्रदान करते हैं।
- इनफरेंस प्रदाता API के माध्यम से इन मॉडल को होस्ट करते हैं, जिससे डेवलपर्स प्रति tok/s भुगतान कर सकते हैं और इंफ्रास्ट्रक्चर का प्रबंधन किए बिना विभिन्न प्रदाताओं के साथ प्रयोग कर सकते हैं।
- गेटवेज़ और राउटरर एकल API के पीछे कई इनफरेंस प्रदाताओं को एकीकृत करते हैं, जिससे लागत या प्रदर्शन के आधार पर मॉडल और बैकएंड के बीच निर्बाध स्विचिंग संभव होती है।
- हैर्नेस उपयोगकर्ता, कोडबेस और मॉडल के बीच अंतःक्रिया का प्रबंधन करते हैं, वास्तविक कार्य करने के लिए मॉडल द्वारा निर्धारित टूल्स और कमांड्स को निष्पादित करते हैं।
चिंताओं का यह पृथकीकरण डेवलपर्स को नए मॉडलों के साथ तेजी से प्रयोग करने और अपने विकास कार्यप्रवाह की प्रत्येक परत को स्वतंत्र रूप से अनुकूलित करने में सक्षम बनाता है।