Moonshot ha publicado la ficha del modelo Kimi K2 Thinking, detallando sus capacidades como un agente de pensamiento de código abierto que razona paso a paso mientras invoca herramientas dinámicamente. El modelo establece un nuevo estado del arte en benchmarks incluyendo Humanity's Last Exam (HLE) y BrowseComp al escalar la profundidad del razonamiento multi-paso.

  • Kimi K2 Thinking es un modelo con cuantización INT4 nativa que cuenta con una ventana de contexto de 256k, logrando reducciones sin pérdida en la latencia de inferencia y el uso de memoria GPU.
  • Utiliza Entrenamiento Consciente de Cuantización para lograr una aceleración de 2x en modo de baja latencia mientras mantiene un uso estable de herramientas en 200–300 llamadas secuenciales.
  • El modelo demuestra un comportamiento coherente dirigido a objetivos a largo plazo, superando a modelos anteriores que se degradan después de 30–50 pasos.

El lanzamiento proporciona instrucciones para usar el modelo con bibliotecas como Transformers y proveedores de inferencia como vLLM y SGLang.