Los investigadores presentan Kimi K2, un modelo de lenguaje grande de Mezcla de Expertos que cuenta con 32 mil millones de parámetros activados de un total de un billón. El modelo utiliza el novedoso optimizador MuonClip para abordar la inestabilidad del entrenamiento mientras mantiene la eficiencia de tokens durante el pre-entrenamiento en 15,5 billones de tokens.

  • Kimi K2 logra un rendimiento de vanguardia entre los modelos abiertos no pensantes, obteniendo 66,1 en Tau2-Bench y 76,5 en ACEBench (En).
  • Alcanza 65,8 en SWE-Bench Verified y 47,3 en SWE-Bench Multilingual, superando a la mayoría de las líneas base abiertas y cerradas en configuraciones no pensantes.
  • El modelo demuestra fuertes capacidades en codificación y razonamiento con puntuaciones de 53,7 en LiveCodeBench v6, 49,5 en AIME 2025 y 75,1 en GPQA-Diamond.
  • El post-entrenamiento implica un proceso multietapa que incluye la síntesis a gran escala de datos agénticos y aprendizaje por refuerzo conjunto para mejorar las capacidades agénticas.

El lanzamiento de los puntos de control del modelo base y post-entrenado tiene como objetivo facilitar la investigación futura y las aplicaciones de inteligencia agéntica.