당신의 RAG에는 무엇이 들어있나요?

한 레딧 사용자는 코딩, 시스템 관리 작업, 소규모 코드베이스를 다루는 개인 프로젝트에서 검색 증강 생성(RAG)의 실용적인 유용성에 대해 의문을 제기했습니다. 작성자는 표준 산업 지식이 이미 모델에 의해 잘 커버되어 있다고 주장하며, 코드베이스나 API 참조와 같은 특정 데이터 소스는 인덱싱이 필요할 만큼 크지 않거나 효율적으로 관리하기에는 너무 크다고 설명합니다.

• RFC 라이브러리는 장황하고 불필요한 것으로 간주됩니다.
• 산업 표준은 선택된 문서보다 모델에 의해 직접 처리되는 것이 일반적으로 더 좋습니다.
• 개인 코드베이스는 종종 컨텍스트 윈도우에 맞을 만큼 작지 않으며, 효과적인 인덱싱을 위해 너무 자주 변경됩니다.
• C#이나 Node.js와 같은 대규모 언어의 전체 API 참조를 관리하는 것은 과도한 오버헤드로 간주됩니다.
• 역사적 컨텍스트는 막대한 규모의 엔터프라이즈 애플리케이션에만 관련이 있으며, 소규모 프로젝트에는 해당되지 않습니다.

이 게시물은 RAG 시스템에 실제로 포함할 만한 콘텐츠와 전체 API 문서와 같은 대규모 데이터셋의 장기적인 유지보수를 어떻게 관리할지에 대한 커뮤니티의 조언을 구하고 있습니다.