Moonshot ने Kimi K3 के लिए पूर्ण विवरण, वेट्स और सहायक इंफ्रास्ट्रक्चर जारी किए हैं, जो 2.8T-पैरामीटर Mixture-of-Experts मॉडल है जिसमें प्रति टोकन लगभग 104B सक्रिय पैरामीटर हैं। रिलीज में इसके हाइब्रिड लॉन्ग-कंटैक्स्ट स्टैक और MoonEP, FlashKDA, और AgentEnv जैसे नए टूल्स का विवरण देने वाले तकनीकी रिपोर्ट शामिल हैं।

  • Kimi K3 Kimi Delta Attention, Gated MLA, और sparse LatentMoE के माध्यम से लंबाई, गहराई और चौड़ाई में स्केल करता है, जो मल्टी-टीचर ऑन-पॉलिसी डिस्टिलेशन द्वारा प्रशिक्षित किया गया था।
  • इंफ्रास्ट्रक्चर घटक रिलीज के केंद्र में हैं, जहाँ Dynamo के लिए NVIDIA से डेप्लॉयमेंट सपोर्ट और Red Hat AI द्वारा FP8-Block Hopper-ट्यूनड चेकप्वाइंट्स प्रदान किए गए हैं।
  • लागत विश्लेषण संकेत देता है कि महत्वपूर्ण हार्डवेयर आवश्यकताएं हैं, न्यूनतम कॉन्फ़िगरेशन के लिए 8x MI355X GPUs की आवश्यकता होती है और उत्पादन सर्विंग के लिए उच्च-बैंडविथ डोमेन में संभवतः 64+ GPUs की आवश्यकता हो सकती है।
  • ओपन-वेट रिलीज ने Perplexity, Baseten, और Together जैसे प्रदाताओं द्वारा तेज़ी से अपनाया गया है, जो स्वयं होस्टिंग के उच्च खर्च के कारण होस्टेड इनफरेंस विकल्प पेश कर रहे हैं।

यह रिलीज इस बात पर जोर देती है कि फ्रंटियर मॉडल्स के लिए ओपन वेट्स अब महत्वपूर्ण इंफ्रास्ट्रक्चर निवेश की आवश्यकता होती है, जिससे एक्सेस सरल स्व-डेप्लॉयमेंट के बजाय होस्टेड ऑफरिंग्स की ओर बढ़ रहा है।