ModalのCTOであるAkshat Bubnaは、3億5500万ドルのシリーズC資金調達ラウンド後に、従来の開発者体験から「エージェント体験」への戦略的シフトについて議論している。記事は、AIエージェントが人間の開発者のように欠落したコンテキストを補完できないため、高速なイテレーションループ、プログラムによる制御、分離されたサンドボックスを備えたより緊密なインフラストラクチャを必要とすると主張している。

  • Modalは、弾力的な推論、GPUスナップショット、DeFlash、投機的デコーディング、Auto Endpointsに焦点を当てたAIクラウドを構築中である。
  • このプラットフォームは17のクラウド容量プールを活用し、ポストトレーニングや研究ワークロードのためのサーバーレスマルチノードトレーニングをサポートしている。
  • 本番環境のエージェントには、ハードなガードレールを備えた専門的なサンドボックスが必要であり、RL rolloutでは最大10万個のサンドボックスが必要になる可能性がある。

この進化は、バースト性の高いAIワークロードに対するKubernetesの限界に対処し、エージェント自身がプログラムで操作できるインフラストラクチャを提供する。