A Together AI anunciou uma parceria estratégica com a Moonshot AI para servir como plataforma de lançamento dos modelos open-weight da Moonshot, começando com o Kimi K3. Esta colaboração oferece aos desenvolvedores acesso imediato a lançamentos de ponta por meio da infraestrutura e ferramentas hospedadas nos EUA da Together AI.
O Kimi K3 é um modelo Mixture-of-Experts esparso de 2.8T parâmetros, com suporte nativo à visão e uma janela de contexto de 1M tokens. Ele utiliza Kimi Delta Attention e Attention Residuals para alcançar uma eficiência de escalabilidade aproximadamente 2.5 vezes melhor em comparação ao Kimi K2. Os modelos estão disponíveis por meio dos produtos Serverless, Provisioned Throughput e Dedicated Inference da Together AI.
Os desenvolvedores podem pós-treinar esses modelos usando opções de treinamento personalizadas, como reforço LoRA e ajuste fino supervisionado. Esta integração permite uma implantação contínua, desde a experimentação até a produção, sem etapas separadas ou alterações no SDK.