Cohere 发布了 Embed 5,这是一个新的嵌入模型家族,包含两个层级:用于最高检索质量的 Embed 5 Pro 和用于更低延迟与成本的 Embed 5 Fast。这两个模型均支持文本、图像以及跨 100 多种语言的融合输入,上下文窗口为 128K token。
- 关键架构特性是 Pro 和 Fast 共享单一嵌入空间,允许用户使用一个模型进行索引,并使用另一个模型进行查询,而无需重新索引。
- Embed 5 支持可变输出维度(从 2048 降至 256)和低精度输出(float32、int8、binary),显著降低了大规模部署的存储需求。
- 在 ViDoRe V3 基准测试中,Embed 5 Pro 平均得分为 85.8,Fast 平均得分为 84.5,优于 Voyage 4 Large(83.7)和 Gemini Embedding 2(83.2)。
- 这些模型已通过 Cohere API、Model Vault、Microsoft Foundry 和 Amazon SageMaker 全面提供。
共享嵌入空间设计旨在通过允许使用 Pro 进行高质量索引,同时保持 Fast 的快速查询速度,来优化智能体工作负载,从而降低发出多次搜索的智能体的延迟。