Together AI ha anunciado una asociación estratégica con Moonshot AI para servir como plataforma de lanzamiento de los modelos open-weight de Moonshot, comenzando con Kimi K3. Esta colaboración proporciona a los desarrolladores acceso inmediato a lanzamientos de vanguardia a través de la infraestructura y herramientas alojadas en EE.UU. de Together AI.
Kimi K3 es un modelo Mixture-of-Experts disperso de 2.8T parámetros con soporte nativo para visión y una ventana de contexto de 1M tokens. Utiliza Kimi Delta Attention y Attention Residuals para lograr una eficiencia de escalado aproximadamente 2.5 veces mejor en comparación con Kimi K2. Los modelos están disponibles a través de los productos Serverless, Provisioned Throughput y Dedicated Inference de Together AI.
Los desarrolladores pueden post-entrenar estos modelos utilizando opciones de entrenamiento personalizadas como aprendizaje por refuerzo LoRA y ajuste fino supervisado. Esta integración permite un despliegue fluido desde la experimentación hasta la producción sin cambios separados ni modificaciones en el SDK.