NVIDIA ha lanzado Nemotron 3 Embed, una colección de modelos de incrustación abiertos y comercialmente disponibles diseñados para mejorar la calidad de recuperación para RAG a escala de producción, recuperación agéntica, recuperación de código y memoria de agentes. La colección incluye un modelo de 8B que ocupa el #1 en general en el ranking de RTEB, junto con variantes eficientes de 1B optimizadas para su implementación.

  • Nemotron-3-Embed-8B-BF16 encabeza el ranking de RTEB con una puntuación del 78,5% y logra la recuperación más avanzada a lo largo de las curvas de precisión-eficiencia.
  • La variante 1B BF16 reduce las tasas de error en un 27% en comparación con su predecesor, manteniendo una alta calidad de recuperación para implementaciones de menor costo.
  • Nemotron-3-Embed-1B-NVFP4 utiliza la aceleración NVFP4 optimizada para Blackwell para ofrecer hasta 2 veces mayor rendimiento que BF16 con una pérdida mínima de precisión.
  • Los modelos admiten una ventana de contexto de 32k y están disponibles a través de Hugging Face, los microservicios NVIDIA NIM y vLLM.

Una recuperación más fuerte devuelve evidencia relevante antes, ayudando a los sistemas agénticos a evitar búsquedas repetidas y vueltas de razonamiento innecesarias, reduciendo así los costos de tokens en etapas posteriores.