Hugging Face 포럼의 한 사용자가 문서가 지식 그래프의 노드로 저장되고 reranker를 통해 검색되는 Retrieval-Augmented Generation (RAG) 접근 방식을 제안했습니다. 쿼리 자체는 reranker에 의해 식별된 가장 유사한 노드에 연결되는 새로운 노드가 됩니다.

  • 문서나 텍스트 섹션은 지식 그래프의 노드로 저장됩니다.
  • reranker는 쿼리를 기반으로 문서를 검색하며, 컨텍스트 기반 RAG보다 더 높은 정밀도를 제공할 수 있습니다.
  • 쿼리는 가장 유사한 노드와의 연결을 확립하는 새로운 노드가 됩니다.
  • 이 방법은 노드 추출에 사용되는 LLM의 한계를 해결합니다. LLM은 너무 거친 수준의 라벨이나 키워드만 생성할 수 있습니다.

사용자는 reranker가 컨텍스트 기반 RAG보다 더 정밀할 수 있지만, LLM 기반 노드 추출은 너무 거친 수준의 라벨을 생성할 수 있다고 지적했습니다.