Modal के CTO अक्षत बुबना ने $355M सीरीज़ C फंडिंग राउंड के बाद पारंपरिक डेवलपर अनुभव से "एजेंट अनुभव" की ओर कंपनी की रणनीतिक शिफ्ट पर चर्चा की। लेख में तर्क दिया गया है कि AI एजेंट्स को तेज़ इटरेशन लूप्स, प्रोग्रामेटिक कंट्रोल और अलग-थलग सैंडबॉक्स के साथ अधिक कसकर इंफ्रास्ट्रक्चर की आवश्यकता है, क्योंकि वे मानव डेवलपर्स की तरह गायब संदर्भ को भर नहीं सकते।
- Modal इलास्टिक इनफरेंस, GPU स्नैपशॉटिंग, DeFlash, स्पेकुलेटिव डिकोडिंग और Auto Endpoints पर केंद्रित एक AI क्लाउड बना रहा है।
- प्लेटफ़ॉर्म 17-क्लाउड क्षमता पूल का उपयोग करता है और पोस्ट-ट्रेनिंग और रिसर्च लोड के लिए सर्वरलेस मल्टी-नोड ट्रेनिंग का समर्थन करता है।
- प्रोडक्शन एजेंट्स को कड़े गार्डरेल्स के साथ विशेष सैंडबॉक्स की आवश्यकता होती है, क्योंकि RL रोलआउट में 100,000 तक सैंडबॉक्स की आवश्यकता हो सकती है।
यह विकास बर्स्टी AI लोड के लिए Kubernetes की सीमाओं को दूर करता है और ऐसा इंफ्रास्ट्रक्चर प्रदान करता है जिसे एजेंट स्वयं प्रोग्रामेटिक रूप से संचालित कर सकते हैं।