NVIDIAは、生産規模のRAG、エージェント型検索、コード検索、エージェントメモリのための検索品質を向上させるために設計された、オープンかつ商用利用可能な埋め込みモデルのコレクションであるNemotron 3 Embedをリリースしました。このコレクションには、RTEBリーダーボードで総合1位を獲得した8Bモデルと、デプロイメント用に最適化された効率的な1Bバリエーションが含まれています。

  • Nemotron-3-Embed-8B-BF16は78.5%のスコアでRTEBリーダーボードのトップに位置し、精度と効率の曲線全体で最先端の検索性能を実現しています。
  • 1B BF16バリエーションは、低コストでのデプロイメントのために高い検索品質を維持しつつ、誤差率を27%削減しました。
  • Nemotron-3-Embed-1B-NVFP4は、Blackwell最適化されたNVFP4アクセラレーションを活用し、精度の最小限の低下でBF16比最大2倍のスループットを提供します。
  • モデルは32kのコンテキストウィンドウをサポートしており、Hugging Face、NVIDIA NIMマイクロサービス、vLLM経由で利用可能です。

より強力な検索結果は関連する証拠を早期に返すため、エージェントシステムが繰り返し検索や不要な推論ターンを回避するのに役立ち、結果としてダウンストリームのトークンコストを削減します。