NVIDIA 发布了 Nemotron 3 Embed,这是一组开源且可商业使用的嵌入模型,旨在提升生产级 RAG、智能体检索、代码检索和智能体记忆的检索质量。该集合包含一个在 RTEB 排行榜上总体排名第一的 8B 模型,以及针对部署优化的高效 1B 变体。
- Nemotron-3-Embed-8B-BF16 以 78.5% 的成绩位居 RTEB 排行榜榜首,并在准确率-效率曲线上实现了最先进的检索性能。
- 1B BF16 变体在保持高检索质量的同时,将错误率降低了 27%,适用于更低成本的部署。
- Nemotron-3-Embed-1B-NVFP4 利用针对 Blackwell 优化的 NVFP4 加速技术,提供比 BF16 高达 2 倍的吞吐量,且精度损失极小。
- 模型支持 32k 上下文窗口,可通过 Hugging Face、NVIDIA NIM 微服务和 vLLM 获取。
更强的检索能更早返回相关证据,帮助智能体系统避免重复搜索和不必要的推理步骤,从而降低下游的 token 成本。