NVIDIA выпустила Nemotron 3 Embed, набор открытых и коммерчески доступных моделей встраивания, предназначенных для улучшения качества поиска по базе знаний (RAG) производственного масштаба, агентного поиска, поиска по коду и памяти агентов. В коллекцию входит модель объемом 8B, занимающая #1 место в общем зачете на доске лидеров RTEB, а также эффективные варианты объемом 1B, оптимизированные для развертывания.
- Nemotron-3-Embed-8B-BF16 возглавляет доску лидеров RTEB с результатом 78,5% и демонстрирует наилучшие показатели поиска по кривым «точность-эффективность».
- Вариант 1B BF16 снижает уровень ошибок на 27% по сравнению с предыдущей версией, сохраняя высокое качество поиска для развертывания с меньшими затратами.
- Nemotron-3-Embed-1B-NVFP4 использует ускорение NVFP4, оптимизированное под архитектуру Blackwell, обеспечивая пропускную способность до 2 раз выше, чем у BF16, при минимальной потере точности.
- Модели поддерживают контекстное окно объемом 32k и доступны через Hugging Face, микросервисы NVIDIA NIM и vLLM.
Более качественный поиск раньше возвращает релевантные доказательства, помогая агентным системам избегать повторных поисков и лишних шагов рассуждения, тем самым снижая затраты на токены в последующих этапах.