A NVIDIA lançou o Nemotron 3 Embed, uma coleção de modelos de embedding abertos e comercialmente disponíveis projetados para melhorar a qualidade de recuperação para RAG em escala de produção, recuperação agêntica, recuperação de código e memória de agentes. A coleção inclui um modelo de 8B que ocupa a #1 posição geral no ranking do RTEB, junto com variantes eficientes de 1B otimizadas para implantação.

  • Nemotron-3-Embed-8B-BF16 lidera o ranking do RTEB com uma pontuação de 78,5% e alcança recuperação de estado da arte ao longo das curvas de precisão-eficiência.
  • A variante 1B BF16 reduz as taxas de erro em 27% em relação à sua predecessora, mantendo alta qualidade de recuperação para implantações de menor custo.
  • Nemotron-3-Embed-1B-NVFP4 utiliza aceleração NVFP4 otimizada para Blackwell para oferecer até 2x maior throughput que o BF16 com perda mínima de precisão.
  • Os modelos suportam uma janela de contexto de 32k e estão disponíveis via Hugging Face, microserviços NVIDIA NIM e vLLM.

Uma recuperação mais forte retorna evidências relevantes mais cedo, ajudando sistemas agênticos a evitar buscas repetidas e voltas de raciocínio desnecessárias, reduzindo assim os custos de tokens a jusante.