Moonshot AI ने Kimi K3 जारी किया है, जो एक ओपन-सोर्स स्पार्स मिक्चर-ऑफ-एक्सपर्ट्स (MoE) मॉडल है जिसमें नेटिव विज़न क्षमताएं और 1-मिलियन-टोकन संदर्भ विंडो शामिल हैं। यह 2.8 ट्रिलियन पैरामीटर स्केल को पार करने वाला पहला ओपन मॉडल है।

  • आर्किटेक्चर में लंबे संदर्भों में डिकोडिंग को 6.3x तक तेज करने के लिए Kimi Delta Attention (KDA) और लगभग 25% अधिक प्रशिक्षण दक्षता के लिए Attention Residuals (AttnRes) शामिल हैं।
  • K3 केवल 896 एक्सपर्ट्स में से 16 को सक्रिय करता है, जिससे इसके पूर्ववर्ती Kimi K2 की तुलना में लगभग 2.5x बेहतर समग्र स्केलिंग दक्षता प्राप्त होती है।
  • बेंचमार्क में, K3 Program Bench, SWE Marathon, BrowseComp, Automation Bench, और OmniDocBench में अग्रणी है, जबकि FrontierSWE और HLE-Full पर Claude Fable 5 से पीछे है।
  • मॉडल को OpenAI SDK के माध्यम से $0.30/MTok कैश-हिट इनपुट और $15.00/MTok आउटपुट के लिए फ्लैट प्राइसिंग के साथ उपलब्ध कराया गया है।

Moonshot का कहना है कि K3 लंबे समय तक चलने वाले कोडिंग, ज्ञान कार्य और तर्क को लक्षित करता है, जो Claude Fable 5 और GPT 5.6 Sol जैसे प्रोप्राइटरी मॉडल्स के लिए एक उच्च-प्रदर्शन ओपन विकल्प प्रदान करता है।