A versão 6 do Sentence Transformers introduz a classe MultiVectorEncoder, permitindo a recuperação de interação tardia (late interaction) ao estilo ColBERT diretamente dentro da biblioteca sem exigir dependências externas como PyLate. Esta adição permite que os usuários carreguem checkpoints multi-vetoriais de várias fontes, incluindo formatos PyLate e Stanford-NLP, usando uma API unificada.
- Modelos multi-vetoriais preservam a informação em nível de token mantendo um vetor por token, avaliando consultas contra documentos por meio do operador MaxSim para melhorar a qualidade da recuperação em comparação com embeddings densos de único vetor.
- A implementação suporta recuperação visual de documentos através dos modelos colpali-engine e lida nativamente com vários formatos de checkpoints.
- Estratégias de indexação como fast-plaid são utilizadas para gerenciar os custos aumentados de armazenamento associados ao armazenamento de vetores para cada token.
Este recurso traz capacidades de interação tardia para o núcleo do ecossistema Sentence Transformers, permitindo que os usuários aproveitem métodos de recuperação de última geração enquanto mantêm a compatibilidade com fluxos de trabalho existentes de modelos densos e esparsos.