Moonshot AI выпустила модели рассуждения с триллионом параметров Kimi K2 Thinking и Kimi K2 Thinking Turbo с открытыми весами, предназначенные для превосхождения проприетарных LLM в агентных задачах. Эти модели выполняют сотни вызовов инструментов последовательно, перемежая шаги рассуждения, что позволяет им корректировать планы на основе промежуточных результатов.

  • Архитектура: Смешанная экспертная трансформерная архитектура с 1 триллионом общих параметров и 32 миллиардами активных на токен.
  • Производительность: Достигла лучших результатов на агентном бенчмарке τ²-Bench Telecom (точность 93%) и Humanity's Last Exam с включёнными инструментами (44,9%).
  • Эффективность: Дообучение выполнено в точности INT4, что уменьшило размер файла до 594 ГБ и удвоило скорость вывода по сравнению с полной точностью.
  • Доступность: Веса доступны по модифицированной лицензии MIT для некоммерческого и коммерческого использования при количестве активных пользователей до 100 миллионов в месяц или ежемесячном доходе до 20 миллионов долларов.

Агентные приложения выигрывают от способности модели рассуждать через множество вызовов инструментов без вмешательства человека, а точность INT4 позволяет разворачивать её на менее дорогом оборудовании.