A Cohere lançou o North Small Translate, um modelo de tradução automática baseado em Mixture-of-Experts (MoE) esparso e de pesos abertos, desenvolvido em parceria com a Cohere Labs e a RWS. O modelo suporta 50 idiomas e pontua 83.6 no benchmark WMT26 em todos os idiomas.

  • Arquitetura: 218B parâmetros totais com 25B ativos por token, utilizando um Transformer MoE esparso apenas de decodificador com 128 especialistas.
  • Benchmarks: Pontua 83.6 em geral e 84.36 em um modo multi-passos agêntico, superando o DeepL NextGen (81.37) e o Google Translate (68.20).
  • Desempenho: Alcança 112 tokens de saída por segundo em baixa concorrência e lida efetivamente com documentos longos, pontuando 48.9 em dois capítulos de livros.
  • Implantação: Disponível via API da Cohere gratuitamente até os limites de taxa, com opções de auto-hospedagem incluindo checkpoints BF16, FP8 e NVFP4 W4A16 otimizados para hardware NVIDIA B200 e H100.

O modelo é posicionado como uma alternativa econômica e de alta vazão para organizações que necessitam de capacidades precisas de comunicação global.