Moonshot AI 发布了开源权重的 Kimi K2 Thinking 和 Kimi K2 Thinking Turbo 万亿参数推理模型,旨在在智能体任务中超越专有 LLM。这些模型顺序执行数百次工具调用,同时穿插推理步骤,使其能够根据中间结果调整计划。

  • 架构:混合专家(Mixture-of-experts)Transformer,共 1 万亿参数,每个 token 激活 320 亿参数。
  • 性能:在 τ²-Bench Telecom 智能体基准测试中取得最先进结果(准确率 93%),并在启用工具的 Humanity's Last Exam 中达到 44.9%。
  • 效率:使用 INT4 精度进行微调,将文件大小减少至 594 GB,输出速度相比全精度翻倍。
  • 可用性:权重在修改版 MIT 许可证下开放,适用于非商业和商业用途,月活跃用户上限为 1 亿或月收入上限为 2000 万美元。

智能体应用受益于模型无需人工干预即可通过多次工具调用进行推理的能力,而 INT4 精度使其能够在成本较低的硬件上部署。