Moonshot AI发布了Kimi K3,这是一个拥有2.8万亿参数的开源权重模型,专为长周期编码和深度推理设计。它是世界上首个达到3万亿参数级别的开源模型,支持100万token的上下文窗口。

该架构采用了Kimi Delta Attention (KDA)和Attention Residuals以促进信息流动,并配合Stable LatentMoE框架激活896个专家中的16个。Moonshot声称K3在编码和智能体基准测试中与GPT 5.6 Sol和Claude Fable 5处于同一水平。

Together AI通过兼容OpenAI的API提供该模型,提供三种推理努力级别和自动上下文缓存以降低输入成本。