Moonshot AI lança o Kimi K3 aberto, um modelo MoE de 2,8T parâmetros com contexto de 1M

A Moonshot AI lançou o Kimi K3, um modelo aberto de Mixture-of-Experts (MoE) esparso com capacidades nativas de visão e uma janela de contexto de 1 milhão de tokens. É o primeiro modelo aberto a alcançar a escala de 2,8 trilhões de parâmetros.

• A arquitetura introduz o Kimi Delta Attention (KDA) para decodificação até 6,3x mais rápida em contextos longos e Attention Residuals (AttnRes) para eficiência de treinamento cerca de 25% maior.
• O K3 ativa apenas 16 dos 896 especialistas, alcançando uma eficiência de escalonamento geral cerca de 2,5x melhor que seu antecessor, o Kimi K2.
• Nos benchmarks, o K3 lidera Program Bench, SWE Marathon, BrowseComp, Automation Bench e OmniDocBench, enquanto fica atrás do Claude Fable 5 no FrontierSWE e HLE-Full.
• O modelo está acessível via OpenAI SDK com preço fixo de $0,30/MTok para entrada com cache hit e $15,00/MTok para saída.

A Moonshot afirma que o K3 tem como alvo codificação de longo prazo, trabalho do conhecimento e raciocínio, oferecendo uma alternativa aberta de alto desempenho a modelos proprietários como Claude Fable 5 e GPT 5.6 Sol.