Cohere a publié North Small Translate, un modèle de traduction automatique open-weight à experts mélangés (MoE) développé en collaboration avec Cohere Labs et RWS. Le modèle prend en charge 50 langues et obtient un score de 83.6 sur le benchmark WMT26 pour l'ensemble des langues.

  • Architecture : 218B paramètres au total avec 25B actifs par token, utilisant un Transformer MoE sparse à décodeur unique avec 128 experts.
  • Benchmarks : Score de 83.6 en général et de 84.36 en mode multi-passes agentic, surpassant DeepL NextGen (81.37) et Google Translate (68.20).
  • Performance : Atteint 112 tokens de sortie par seconde à faible concurrence et gère efficacement les longs documents, obtenant un score de 48.9 sur deux chapitres de livre.
  • Déploiement : Disponible via l'API de Cohere gratuitement jusqu'à l'atteinte des limites de taux, avec des options d'hébergement autonome incluant des points de contrôle BF16, FP8 et NVFP4 W4A16 optimisés pour le matériel NVIDIA B200 et H100.

Le modèle est positionné comme une alternative rentable et à haut débit pour les organisations nécessitant des capacités de communication mondiale précises.