DeepSWE बेंचमार्क पर DeepSeek-V4 Flash 0731 और GPT-5.6 Luna की तुलना से पता चलता है कि जबकि GPT-5.6 Luna एक बेहतर इंजीनियर है, दोनों मॉडलों का उपयोग करने वाला कैस्केड रणनीति कम लागत में उच्च सटीकता प्रदान करती है।
Moonshot AI ने Kimi K3 जारी किया है, जो लंबे समय तक कोडिंग और गहन तर्क के लिए डिज़ाइन किया गया 2.8 ट्रिलियन पैरामीटर वाला ओपन-वेट मॉडल है। यह 3 ट्रिलियन पैरामीटर वर्ग में पहला ओपन-सोर्स मॉडल है और 1 मिलियन टोकन संदर्भ विंडो का समर्थन करता है।
Together AI ने Moonshot AI के साथ एक रणनीतिक साझेदारी की घोषणा की है, जो Moonshot के open-weight मॉडल के लिए लॉन्च प्लेटफ़ॉर्म के रूप में कार्य करेगा, जिसमें Kimi K3 शामिल है। यह सहयोग डेवलपर्स को Together AI की अमेरिका-होस्टेड इंफ्रास्ट्रक्चर और टूल्स के माध्यम से फ्रंटियर रिलीज़ तक तुरंत पहुँच प्रदान करता है।
DeepSWE बेंचमार्क पर Kimi K3 और GPT-5.6 Sol की तुलना से पता चलता है कि जबकि GPT-5.6 Sol सिंगल-शॉट गुणवत्ता में अग्रणी है (72.7% बनाम 68.5%), Kimi K3 कम लागत पर k > 1 के लिए उच्च pass@k स्कोर हासिल करता है।
Moonshot AI से आया एक ओपन-वेइट मॉडल Kimi K3, DeepSWE बेंचमार्क पर Anthropic के Claude Fable 5 के तुलनीय प्रदर्शन प्राप्त करता है जबकि प्रति कार्य लागत काफी कम होती है। 16 जुलाई 2026 के मूल्यांकन में, Kimi K3 ने pass@1 में 68.5% हासिल किया, जबकि Fable 5 का स्कोर 69.9% था, लेकिन बहु-प्रयास परिदृश्यों में इसने बेहतर प्रदर्शन दिखाया और श्रेष्ठ लागत दक्षता प्रदान की।
Together AI ने अपने डेडिकेटेड मॉडल इनफरेंस प्लेटफ़ॉर्म में ऑटोस्केलिंग क्षमताएं जोड़ी हैं, जिससे डिप्लॉयमेंट्स को इनफरेंस इंजन द्वारा समझे जाने वाले मीट्रिक्स के आधार पर स्केल किया जा सकता है, जैसे कि इन-फ्लाइट रिक्वेस्ट, टाइम-टू-फर्स्ट-टोकन (TTFT), और GPU उपयोगिता।
ThunderAgent एक सिस्टम है जो उच्च-कन्करेंसी संश्लेषित डेटा जनरेशन में KV कैश थ्रैशिंग को दूर करने के लिए एजेंटिक LLM अनुरोध शेड्यूलिंग के लिए एक प्रोग्राम अमूर्तता पेश करता है। एजेंट वर्कफ़्लो को स्वतंत्र अनुरोधों के बजाय शेड्यूल करने योग्य प्रोग्राम मानकर, यह थ्रूपुट को काफी बढ़ाता है और लेटेंसी को कम करता है।
Together AI ने अपने समर्पित मॉडल इनफरेंस प्लेटफ़ॉर्म की आर्किटेक्चर का विवरण दिया, जो एक क्षमता-जागरूक ट्रैफ़िक स्प्लिट के माध्यम से एंडपॉइंट्स, डिप्लॉयमेंट्स और अपरिवर्तनीय कॉन्फ़िग को जोड़ता है। यह सिस्टम स्थिर प्रतिशत के बजाय प्रभावी क्षमता (वजन गुणा तैयार रिप्लिका) के आधार पर अनुरोधों को रूट करता है, जिससे शून्य-डाउनटाइम रोलआउट और A/B टेस्टिंग जैसे फीचर्स संभव होते हैं।
Together ने अपने इनफरेंस प्लेटफ़ॉर्म में एक महत्वपूर्ण अपडेट जारी किया है, जिसमें "Dedicated Model Inference" का परिचय दिया गया है, जो उपयोगकर्ताओं को ओपन-वेट मॉडल्स के लिए प्रदर्शन, लागत और गुणवत्ता पर पूर्ण नियंत्रण देने के लिए डिज़ाइन किया गया है। इस अपडेट में कस्टम ट्रेनिंग क्षमताओं के लिए एक बंद बीटा भी घोषित किया गया है, जिसमें फुल-वेट और LoRA रीइन्फोर्समेंट लर्निंग शामिल हैं।
Together AI और Y Combinator ने Y Combinator के AI-नेटिव स्टार्टअप्स के पोर्टफोलियो के लिए समर्पित पहला GPU क्लस्टर प्रदान करने के लिए एक साझेदारी की घोषणा की है। यह पहल लंबी अवधि की प्रतिबद्धताओं की आवश्यकता के बिना प्रशिक्षण और निष्कर्षण के लिए लचीली, लागत-प्रभावी इंफ्रास्ट्रक्चर प्रदान करके कंप्यूट एक्सेस की महत्वपूर्ण बाधा को हल करने का लक्ष्य रखती है।
Together AI GPU इनफरेंस के लिए विभिन्न विश्वसनीयता स्तरों को प्राप्त करने की आवश्यक विशिष्ट आर्किटेक्चरल आवश्यकताओं का विवरण देता है, यह तर्क देते हुए कि मानक SLA संख्याएं अक्सर वास्तविक फेलिंग डोमेन को छुपाती हैं।