Modal CTO Akshat Bubna 讨论了公司在3.55亿美元C轮融资后，从传统的开发者体验向“代理体验”的战略转变。文章认为，AI代理需要更紧密的基础设施，包括快速迭代循环、程序化控制和隔离的沙箱，因为它们无法像人类开发者那样填补缺失的上下文。

  • Modal 正在构建一个专注于弹性推理、GPU 快照、DeFlash、推测性解码和 Auto Endpoints 的 AI 云。
  • 该平台利用17个云的容量池，支持用于后训练和研究工作负载的服务端多点训练。
  • 生产级代理需要带有严格护栏的专业沙箱，因为 RL 部署可能需要多达100,000个沙箱。

这一演进解决了 Kubernetes 在处理突发 AI 工作负载时的局限性，并提供了代理自身可以程序化操作的基础设施。