月之暗面发布了 Kimi K3，这是一个开源的稀疏混合专家（MoE）模型，具备原生视觉能力，上下文窗口为 100 万个 token。它是首个达到 2.8 万亿参数规模的开源模型。

  • 该架构引入了 Kimi Delta Attention (KDA)，在长上下文中解码速度提升高达 6.3 倍，并采用 Attention Residuals (AttnRes) 使训练效率提高约 25%。
  • K3 仅激活 896 个专家中的 16 个，整体缩放效率比其前身 Kimi K2 高出约 2.5 倍。
  • 在基准测试中，K3 在 Program Bench、SWE Marathon、BrowseComp、Automation Bench 和 OmniDocBench 上领先，但在 FrontierSWE 和 HLE-Full 上落后于 Claude Fable 5。
  • 该模型可通过 OpenAI SDK 访问，缓存命中输入价格为 $0.30/MTok，输出价格为 $15.00/MTok。

月之暗面表示，K3 针对长周期编码、知识工作和推理任务，为 Claude Fable 5 和 GPT 5.6 Sol 等专有模型提供了高性能的开源替代方案。