Um usuário nos fóruns da Hugging Face propõe uma abordagem de Retrieval-Augmented Generation (RAG) onde documentos são armazenados como nós em um grafo de conhecimento e recuperados por meio de um reranker. A própria consulta se torna um novo nó que se conecta aos nós mais semelhantes identificados pelo reranker.
- Documentos ou seções de texto são armazenados como nós em um grafo de conhecimento.
- Um reranker recupera documentos com base em uma consulta, oferecendo potencialmente maior precisão do que o RAG contextual.
- A consulta se torna um novo nó estabelecendo conexões com os nós mais semelhantes.
- Este método aborda a limitação das LLMs usadas para extração de nós, que podem gerar apenas rótulos ou palavras-chave de granulação grosseira.
O usuário observa que os rerankers podem ser mais precisos do que o RAG contextual, enquanto a extração de nós baseada em LLM pode produzir rótulos muito grosseiros.