Un usuario en los foros de Hugging Face propone un enfoque de Retrieval-Augmented Generation (RAG) donde los documentos se almacenan como nodos en un grafo de conocimiento y se recuperan mediante un reranker. La propia consulta se convierte en un nuevo nodo que se conecta a los nodos más similares identificados por el reranker.

  • Los documentos o secciones de texto se almacenan como nodos en un grafo de conocimiento.
  • Un reranker recupera documentos basándose en una consulta, ofreciendo potencialmente mayor precisión que el RAG contextual.
  • La consulta se convierte en un nuevo nodo que establece conexiones con los nodos más similares.
  • Este método aborda la limitación de las LLM utilizadas para la extracción de nodos, que pueden generar solo etiquetas o palabras clave de grano grueso.

El usuario señala que los rerankers pueden ser más precisos que el RAG contextual, mientras que la extracción de nodos basada en LLM puede producir etiquetas demasiado gruesas.