Пользователь предлагает использовать реранкеры для извлечения узлов в RAG с графом знаний

Пользователь на форумах Hugging Face предлагает подход Retrieval-Augmented Generation (RAG), при котором документы хранятся как узлы в графе знаний и извлекаются с помощью реранкера. Сам запрос становится новым узлом, который соединяется с наиболее похожими узлами, определёнными реранкером.

• Документы или текстовые фрагменты хранятся как узлы в графе знаний.
• Реранкер извлекает документы на основе запроса, обеспечивая потенциально более высокую точность по сравнению с контекстным RAG.
• Запрос становится новым узлом, устанавливающим связи с наиболее похожими узлами.
• Этот метод решает ограничение LLM, используемых для извлечения узлов, которые могут генерировать только грубо-grained метки или ключевые слова.

Пользователь отмечает, что реранкеры могут быть точнее контекстного RAG, тогда как извлечение узлов на основе LLM может давать слишком грубые метки.