Moonshot выпустила карточку модели Kimi K2 Thinking, подробно описывающую её возможности как открытого агента для рассуждений, который мыслит пошагово и динамически вызывает инструменты. Модель устанавливает новый рекорд на бенчмарках, включая Humanity's Last Exam (HLE) и BrowseComp, за счёт увеличения глубины многошагового рассуждения.

  • Kimi K2 Thinking — это модель с нативным INT4-квантованием, обладающая контекстным окном 256k, обеспечивающая потерю качества при снижении латентности вывода и использования памяти GPU.
  • Она использует обучение с учётом квантования (Quantization-Aware Training) для достижения двукратного ускорения в режиме низкой латентности при сохранении стабильной работы с инструментами в диапазоне 200–300 последовательных вызовов.
  • Модель демонстрирует согласованное целеполагающее поведение на длительных горизонтах, превосходя предыдущие модели, которые деградируют после 30–50 шагов.

Выпуск включает инструкции по использованию модели с библиотеками, такими как Transformers, и провайдерами вывода, такими как vLLM и SGLang.