Together AI a lancé le Provisioned Throughput, un nouveau format d'inférence qui offre une capacité réservée pour les modèles ouverts de pointe avec une tarification basée sur les tokens et un SLA de disponibilité de 99 %. Cette option comble le fossé entre l'inférence serverless best-effort et la gestion complexe des GPU dédiés en offrant des coûts prévisibles et une disponibilité garantie.
- Disponible dès aujourd'hui pour MiniMax M3 et GLM-5.2 en Amérique du Nord, EMEA et au-delà avec un engagement minimum d'un mois.
- Les clients achètent des Provisioned Throughput Units (PTU) à 0,05 $ par PTU par minute pour sécuriser une capacité exclusive.
- Les coûts sont jusqu'à 90 % inférieurs au prix de liste de Claude Opus 4.8, les PTU MiniMax M3 coûtant environ 0,36 $ par million de tokens d'entrée et 2,16 $ par million de tokens de sortie à pleine utilisation.
- L'API est identique entre Serverless, Dedicated Inference et Provisioned Throughput, permettant une intégration transparente.
Cette version permet aux entreprises de migrer leurs charges de travail de production des API propriétaires vers des modèles ouverts avec les garanties de fiabilité requises pour les applications critiques.