Moonshot发布了Kimi K2 Thinking模型卡，详细介绍了其作为开源思维代理的能力，该代理在动态调用工具的同时逐步推理。通过扩展多步推理深度，该模型在包括Humanity's Last Exam (HLE)和BrowseComp在内的基准测试中设立了新的最先进水平。

  • Kimi K2 Thinking是一款具有原生INT4量化的模型，拥有256k上下文窗口，实现了推理延迟和GPU内存使用的无损降低。
  • 它利用量化感知训练（Quantization-Aware Training）在低延迟模式下实现2倍加速，同时在200–300次连续调用中保持稳定的工具使用。
  • 该模型在长周期内表现出连贯的目标导向行为，超越了在30–50步后性能下降的先前模型。

此次发布提供了使用Transformers等库以及vLLM和SGLang等推理提供商使用该模型的说明。