NVIDIA는 생산 규모의 RAG, 에이전트 검색, 코드 검색 및 에이전트 메모리를 위한 검색 품질을 개선하도록 설계된 오픈 및 상용 임베딩 모델 컬렉션인 Nemotron 3 Embed를 출시했습니다. 이 컬렉션에는 RTEB 리더보드에서 종합 1위를 차지한 8B 모델과 배포를 위해 최적화된 효율적인 1B 변형이 포함되어 있습니다.

  • Nemotron-3-Embed-8B-BF16은 78.5%의 점수로 RTEB 리더보드 최상위에 위치하며 정확도-효율성 곡선 전반에 걸쳐 최첨단 검색 성능을 달성했습니다.
  • 1B BF16 변형은 낮은 비용 배포를 위해 높은 검색 품질을 유지하면서 오류율을 27% 감소시켰습니다.
  • Nemotron-3-Embed-1B-NVFP4는 Blackwell 최적화 NVFP4 가속을 활용하여 최소한의 정확도 손실로 BF16 대비 최대 2배의 더 높은 처리량을 제공합니다.
  • 모델은 32k 컨텍스트 창을 지원하며 Hugging Face, NVIDIA NIM 마이크로서비스 및 vLLM을 통해 이용 가능합니다.

더 강력한 검색은 관련 증거를 더 일찍 반환하여 에이전트 시스템이 반복적인 검색과 불필요한 추론 단계를 피하는 데 도움이 되므로 다운스트림 토큰 비용을 줄입니다.