Moonshot AI ने Kimi K3 जारी किया है, जो लंबे समय तक कोडिंग और गहन तर्क के लिए डिज़ाइन किया गया 2.8 ट्रिलियन पैरामीटर वाला ओपन-वेट मॉडल है। यह 3 ट्रिलियन पैरामीटर वर्ग में पहला ओपन-सोर्स मॉडल है और 1 मिलियन टोकन संदर्भ विंडो का समर्थन करता है।
आर्किटेक्चर में Kimi Delta Attention (KDA) और Attention Residuals शामिल हैं जो जानकारी के प्रवाह को सुविधाजनक बनाते हैं, साथ ही एक Stable LatentMoE फ्रेमवर्क जो 896 विशेषज्ञों में से 16 को सक्रिय करता है। Moonshot का दावा है कि K3 कोडिंग और एजेंटिक बेंचमार्क्स पर GPT 5.6 Sol और Claude Fable 5 के स्तर पर प्रतिस्पर्धा करता है।
Together AI मॉडल को OpenAI-कम्पैटिबल API के साथ सेवा देता है, जिसमें तर्क प्रयास के तीन स्तर और इनपुट लागत कम करने के लिए स्वचालित संदर्भ कैशिंग शामिल हैं।