Moonshot a publié la fiche du modèle Kimi K2 Thinking, détaillant ses capacités en tant qu'agent de raisonnement open-source qui raisonne étape par étape tout en invoquant dynamiquement des outils. Le modèle établit un nouvel état de l'art sur les benchmarks incluant Humanity's Last Exam (HLE) et BrowseComp en augmentant la profondeur du raisonnement multi-étapes.

  • Kimi K2 Thinking est un modèle de quantification native INT4 disposant d'une fenêtre de contexte de 256k, permettant des réductions sans perte de la latence d'inférence et de l'utilisation de la mémoire GPU.
  • Il utilise Quantization-Aware Training pour atteindre une accélération x2 en mode basse latence tout en maintenant un usage stable des outils sur 200–300 appels séquentiels.
  • Le modèle démontre un comportement cohérent orienté vers les objectifs sur de longues périodes, surpassant les modèles précédents qui se dégradent après 30–50 étapes.

La publication fournit des instructions pour utiliser le modèle avec des bibliothèques comme Transformers et des fournisseurs d'inférence tels que vLLM et SGLang.