Together AIは、プロビジョンドスループットをリリースしました。これは、トークンベースの価格設定と99%の稼働率SLAを備えた最先端のオープンモデルに対して予約されたキャパシティを提供する新しい推論フォーマファクターです。このオプションは、予測可能なコストと保証された可用性を提供することで、ベストエフォートサーバーレス推論と複雑な専用GPU管理の間のギャップを埋めます。

  • 北米、EMEAなどで本日利用可能。最短1ヶ月の契約期間が必要。
  • クライアントは、独占的なキャパシティを確保するために、PTU（Provisioned Throughput Units）を購入します。価格はPTUあたり1分間$0.05です。
  • コストはClaude Opus 4.8のリスト価格より最大90%低く、MiniMax M3 PTUはフル活用時に入力トークン100万個あたり約$0.36、出力トークン100万個あたり$2.16となります。
  • APIはServerless、Dedicated Inference、Provisioned Throughputを通じて同一であり、シームレスな統合を可能にします。

今回のリリースにより、企業はビジネスクリティカルなアプリケーションに必要な信頼性の保証を持ちながら、独自APIからオープンモデルへの本番ワークロードの移行が可能になります。