Moonshot AI представляет Kimi K3, модель Mixture-of-Experts с открытым исходным кодом, содержащую 2,8 триллиона общих параметров и 104 миллиарда активируемых параметров на токен. Архитектура использует нативные возможности зрения и поддерживает контекстное окно в миллион токенов благодаря Kimi Delta Attention и Stable LatentMoE.

  • Kimi K3 демонстрирует улучшение общей эффективности масштабирования примерно в 2,5 раза по сравнению с предшественником, Kimi K2.
  • Модель использует Stable LatentMoE для эффективной активации только 16 из 896 маршрутизируемых экспертов на токен.
  • Постобучение включает обучение с подкреплением в общих, агентных и кодинговых областях с различными уровнями усилий на рассуждение.
  • Масштабные оценки показывают производительность на передовом уровне в задачах долгосрочного кодинга, агентных действий, работы с знаниями, рассуждений и зрения.
  • Уступая Claude Fable 5 и GPT-5.6 Sol, Kimi K3 превосходит другие открытые и проприетарные модели в наборе оценок.

Moonshot AI публикует полные веса модели для содействия будущим исследованиям и ускорения более широкого внедрения передового интеллекта.