Cohere 发布了 North Small Translate,这是一款由 Cohere Labs 和 RWS 联合开发的开源权重稀疏混合专家(MoE)机器翻译模型。该模型支持 50 种语言,并在 WMT26 基准测试中在所有语言上均获得 83.6 分。

  • 架构:总共 218B 参数,每个 token 激活 25B,采用仅解码器的稀疏 MoE Transformer,包含 128 个专家。
  • 基准测试:总体得分 83.6,在代理多遍模式下得分 84.36,优于 DeepL NextGen(81.37)和 Google Translate(68.20)。
  • 性能:在低并发情况下每秒输出 112 个 token,并能有效处理长文档,在两章书籍测试中得分 48.9。
  • 部署:可通过 Cohere API 免费使用(直至达到速率限制),并提供自托管选项,包括针对 NVIDIA B200 和 H100 硬件优化的 BF16、FP8 和 NVFP4 W4A16 检查点。

该模型定位为需要准确全球通信能力的组织的一种具有成本效益和高吞吐量的替代方案。