月之暗面推出Kimi K3，这是一款开源的混合专家（Mixture-of-Experts）模型，具有2.8万亿总参数和每个token激活1040亿个参数。该架构利用原生视觉能力，并支持100万token的上下文窗口，由Kimi Delta Attention和Stable LatentMoE实现。

  • Kimi K3在整体扩展效率方面相比其前身Kimi K2提升了约2.5倍。
  • 该模型采用Stable LatentMoE技术，有效激活896个路由专家中每个token的16个。
  • 后训练阶段包括在通用、智能体和编码领域进行强化学习，涵盖多种推理努力水平。
  • 广泛的评估显示，Kimi K3在长程编码、智能体、知识、推理和视觉任务中达到了前沿性能。
  • 虽然落后于Claude Fable 5和GPT-5.6 Sol，但Kimi K3在该评估套件中优于其他开源和专有模型。

月之暗面发布了完整的模型权重，以促进未来研究并加速前沿智能的广泛部署。