Cohere ने Cohere Labs और RWS के साथ विकसित एक ओपन-वेट स्पर्स मिक्सचर-ऑफ-एक्सपर्ट्स (MoE) मशीन ट्रांसलेशन मॉडल North Small Translate जारी किया है। यह मॉडल 50 भाषाओं का समर्थन करता है और सभी भाषाओं पर WMT26 बेंचमार्क पर 83.6 स्कोर प्राप्त करता है।

  • आर्किटेक्चर: कुल 218B पैरामीटर, प्रति टोकन 25B सक्रिय, 128 एक्सपर्ट्स के साथ डिकोडर-ओनली स्पर्स MoE ट्रान्सफॉर्मर का उपयोग करता है।
  • बेंचमार्क: सामान्यतः 83.6 स्कोर और एजेंटिक मल्टी-पास मोड में 84.36 स्कोर प्राप्त करता है, जो DeepL NextGen (81.37) और Google Translate (68.20) से बेहतर प्रदर्शन करता है।
  • प्रदर्शन: कम कंकरेंसी पर प्रति सेकंड 112 आउटपुट टोकन प्राप्त करता है और लंबे दस्तावेजों को प्रभावी ढंग से संभालता है, दो पुस्तक अध्यायों पर 48.9 स्कोर करता है।
  • डिप्लॉयमेंट: रेट लिमिट तक मुफ्त में Cohere के API के माध्यम से उपलब्ध, स्व-होस्टिंग विकल्पों में BF16, FP8, और NVFP4 W4A16 चेकपॉइंट्स शामिल हैं जो NVIDIA B200 और H100 हार्डवेयर के लिए अनुकूलित हैं।

इस मॉडल को उन संगठनों के लिए एक लागत-प्रभावी और उच्च-थ्रूपुट विकल्प के रूप में स्थापित किया गया है जिन्हें सटीक वैश्विक संचार क्षमताओं की आवश्यकता है।