Sentence Transformers バージョン 6 は、MultiVectorEncoder クラスを導入し、PyLate などの外部依存関係なしでライブラリ内で直接 ColBERT スタイルの late interaction 検索を可能にします。この追加により、ユーザーは PyLate や Stanford-NLP フォーマットなど、様々なソースからマルチベクターチェックポイントを統一された API を使用してロードできます。

  • マルチベクターモデルは、トークンごとに1つのベクターを保持することでトークンレベルの情報を保持し、MaxSim オペレーターを使用してクエリをドキュメントに対してスコアリングすることで、シングルベクターの密集埋め込みよりも検索品質を向上させます。
  • 実装は colpali-engine モデルを通じた視覚的ドキュメント検索をサポートし、様々なチェックポイントフォーマットをネイティブに処理します。
  • 各トークンに対するベクターの保存に伴う増加したストレージコストを管理するために、fast-plaid などのインデックス戦略が利用されます。

この機能は late interaction の能力を Sentence Transformers エコシステムの核心にもたらすことで、既存の密集および疎モデルワークフローとの互換性を維持しつつ、最先端の検索方法をユーザーが活用できるようにします。