NVIDIA a publié Nemotron 3 Embed, une collection de modèles d'embedding ouverts et disponibles commercialement conçus pour améliorer la qualité de récupération pour le RAG à l'échelle de la production, la récupération agentic, la récupération de code et la mémoire des agents. La collection comprend un modèle 8B classé n°1 au classement général du leaderboard RTEB, ainsi que des variantes 1B optimisées pour le déploiement.

  • Nemotron-3-Embed-8B-BF16 domine le leaderboard RTEB avec un score de 78,5 % et atteint l'état de l'art en matière de récupération sur les courbes précision-efficacité.
  • La variante 1B BF16 réduit les taux d'erreur de 27 % par rapport à son prédécesseur tout en maintenant une qualité de récupération élevée pour un déploiement à moindre coût.
  • Nemotron-3-Embed-1B-NVFP4 utilise l'accélération NVFP4 optimisée pour Blackwell pour offrir un débit jusqu'à 2 fois supérieur à celui du BF16 avec une perte de précision minimale.
  • Les modèles prennent en charge une fenêtre de contexte de 32k et sont disponibles via Hugging Face, les microservices NVIDIA NIM et vLLM.

Une récupération plus forte renvoie des preuves pertinentes plus tôt, aidant les systèmes agentic à éviter les recherches répétées et les étapes de raisonnement inutiles, réduisant ainsi les coûts en tokens en aval.