Together AI ने प्रोविज़ंड थ्रूपुट लॉन्च किया, जो फ्रंटियर ओपन मॉडल्स के लिए रिजर्व्ड कैपेसिटी प्रदान करने वाला एक नया इनफरेंस फॉर्म फैक्टर है, जिसमें टोकन-आधारित प्राइसिंग और 99% अपटाइम SLA शामिल है। यह विकल्प बेस्ट-एफर्ट सर्वरलेस इनफरेंस और जटिल डेडिकेटेड GPU मैनेजमेंट के बीच की खाई को भविष्यवाणी योग्य लागत और गारंटीड उपलब्धता प्रदान करके पाटता है।
- आज उत्तर अमेरिका, EMEA और आगे MiniMax M3 और GLM-5.2 के लिए उपलब्ध, एक महीने की न्यूनतम अवधि के साथ।
- ग्राहक एक्सक्लूसिव कैपेसिटी को सुरक्षित करने के लिए प्रति PTU प्रति मिनट $0.05 पर प्रोविज़ंड थ्रूपुट यूनिट (PTUs) खरीदते हैं।
- लागतें Claude Opus 4.8 की सूचीबद्ध कीमत से 90% तक कम चलती हैं, पूर्ण उपयोग के दौरान MiniMax M3 PTUs लगभग $0.36 प्रति मिलियन इनपुट टोकन और $2.16 प्रति मिलियन आउटपुट टोकन प्रदान करते हैं।
- API सर्वरलेस, डेडिकेटेड इनफरेंस और प्रोविज़ंड थ्रूपुट के बीच समान है, जिससे सीमलेस इंटीग्रेशन संभव होता है।
यह रिलीज कंपनियों को प्रोप्राइटरी APIs से ओपन मॉडल्स में उत्पादन वर्कलोड को माइग्रेट करने की अनुमति देती है, जो बिज़नेस-क्रिटिकल एप्लिकेशन के लिए आवश्यक विश्वसनीयता गारंटी प्रदान करती है।