Moonshot AI опубликовала карточку модели и контрольные точки для своей модели языка Kimi K2 с архитектурой mixture-of-experts. Модель имеет 32 миллиарда активных параметров из общего числа в 1 триллион, обучена на 15,5 трлн токенов с использованием оптимизатора Muon.

  • Kimi K2 предназначена для задач передовых знаний, рассуждений и программирования с особой оптимизацией под агентные возможности.
  • Она достигает 65,8% pass@1 на тестах SWE-bench Verified с инструментами bash/editor и 47,3% на тестах SWE-bench Multilingual.
  • Модель поддерживает вызовы инструментов, автономное решение проблем и сообщения с полями имени.
  • Контрольные точки доступны в формате block-fp8 на Hugging Face для использования с vLLM, SGLang, KTransformers и TensorRT-LLM.

Выпуск включает как базовую модель для дообучения, так и постобученный вариант Kimi-K2-Instruct для универсального чата и агентного взаимодействия.