Moonshot lança o modelo Kimi K2 Thinking com quantização nativa INT4

A Moonshot lançou a ficha do modelo Kimi K2 Thinking, detalhando suas capacidades como um agente de pensamento de código aberto que raciocina passo a passo enquanto invoca ferramentas dinamicamente. O modelo estabelece um novo estado da arte em benchmarks incluindo Humanity's Last Exam (HLE) e BrowseComp ao escalar a profundidade do raciocínio multi-etapas.

• Kimi K2 Thinking é um modelo com quantização nativa INT4 que possui uma janela de contexto de 256k, alcançando reduções sem perda na latência de inferência e no uso de memória GPU.
• Ele utiliza Treinamento Consciente de Quantização para alcançar uma aceleração de 2x no modo de baixa latência enquanto mantém o uso estável de ferramentas em 200–300 chamadas sequenciais.
• O modelo demonstra comportamento coerente direcionado a objetivos em longos horizontes, superando modelos anteriores que degradam após 30–50 passos.

O lançamento fornece instruções para usar o modelo com bibliotecas como Transformers e provedores de inferência como vLLM e SGLang.