CTO Modal, Akshat Bubna, membahas pergeseran strategis perusahaan dari pengalaman pengembang tradisional ke "pengalaman agen" setelah putaran pendanaan Seri C sebesar $355M. Artikel tersebut berargumen bahwa agen AI memerlukan infrastruktur yang lebih ketat dengan loop iterasi cepat, kontrol programatik, dan sandbox terisolasi, karena mereka tidak dapat mengisi konteks yang hilang seperti pengembang manusia.
- Modal sedang membangun cloud AI yang berfokus pada inferensi elastis, snapshot GPU, DeFlash, decoding spekulatif, dan Auto Endpoints.
- Platform ini memanfaatkan pool kapasitas 17-cloud dan mendukung pelatihan multi-node serverless untuk beban kerja pasca-pelatihan dan penelitian.
- Agen produksi memerlukan sandbox khusus dengan guardrail keras, karena rollout RL mungkin memerlukan hingga 100.000 sandbox.
Evolusi ini mengatasi keterbatasan Kubernetes untuk beban kerja AI yang bursty dan menyediakan infrastruktur yang dapat dioperasikan secara programatik oleh agen itu sendiri.