NVIDIA telah merilis Nemotron 3 Embed, sebuah koleksi model embedding terbuka dan tersedia secara komersial yang dirancang untuk meningkatkan kualitas retrieval untuk RAG skala produksi, retrieval agentic, retrieval kode, dan memori agen. Koleksi ini menampilkan model 8B yang menduduki peringkat #1 secara keseluruhan di papan peringkat RTEB, bersama dengan varian 1B yang dioptimalkan untuk deployment.
- Nemotron-3-Embed-8B-BF16 memimpin papan peringkat RTEB dengan skor 78,5% dan mencapai retrieval state-of-the-art di seluruh kurva akurasi-efisiensi.
- Varian 1B BF16 mengurangi tingkat kesalahan sebesar 27% dibandingkan pendahulunya sambil mempertahankan kualitas retrieval yang tinggi untuk deployment berbiaya lebih rendah.
- Nemotron-3-Embed-1B-NVFP4 memanfaatkan akselerasi NVFP4 yang dioptimalkan untuk Blackwell untuk memberikan throughput hingga 2x lebih tinggi daripada BF16 dengan kehilangan akurasi minimal.
- Model mendukung jendela konteks 32k dan tersedia melalui Hugging Face, layanan mikro NVIDIA NIM, dan vLLM.
Retrieval yang lebih kuat mengembalikan bukti yang relevan lebih awal, membantu sistem agentic menghindari pencarian berulang dan putaran penalaran yang tidak perlu, sehingga mengurangi biaya token di hilir.