Cohere выпустила Embed 5, новое семейство моделей эмбеддингов, состоящее из двух уровней: Embed 5 Pro для максимальной качества поиска и Embed 5 Fast для снижения задержек и затрат. Обе модели поддерживают текст, изображения и объединённые входные данные на более чем 100 языках с контекстным окном в 128K токенов.
- Ключевой архитектурной особенностью является то, что Pro и Fast используют единое пространство эмбеддингов, позволяя пользователям индексировать данные одной моделью и выполнять запросы другой без повторной индексации.
- Embed 5 поддерживает переменную размерность выходных данных (от 2048 до 256) и вывод с пониженной точностью (float32, int8, binary), что значительно снижает требования к хранилищу при масштабном развёртывании.
- На бенчмарках ViDoRe V3 Embed 5 Pro в среднем набрал 85.8, а Fast — 84.5, превзойдя Voyage 4 Large (83.7) и Gemini Embedding 2 (83.2).
- Модели доступны через API Cohere, Model Vault, Microsoft Foundry и Amazon SageMaker.
Дизайн с общим пространством эмбеддингов направлен на оптимизацию агентных нагрузок, позволяя выполнять высококачественную индексацию с помощью Pro, сохраняя при этом быструю скорость запросов с помощью Fast, что снижает задержки для агентов, выполняющих множественные поисковые запросы.