한 사용자가 AI 어시스턴트를 위한 장기 기억 파이프라인을 개발하고 오픈소스로 공개했습니다. 이 파이프라인은 Qwen3 235B A22B Instruct 2507 모델 위에서 저장 및 검색 구성 요소를 실행합니다. 이 시스템은 LongMemEval-S 벤치마크에서 500점 만점에 470점을 획득하여 알려진 시스템 중 1위를 차지했으며, 경쟁사 대비 토큰 효율성이 약 10배 더 높다고 보고되었습니다.
- 파이프라인은 메모리 작업에 Qwen3 235B A22B Instruct 2507를 사용하며, 최종 답변 생성에는 별도의 모델을 선택할 수 있습니다.
- 개발자는 작은 모델에서의 신뢰성을 보장하기 위해 프롬프트 다듬기와 안전장치 구현에 약 90%의 시간을 할애했습니다.
- 이 프로젝트에는 상세한 설명 문서, 인터랙티브 벤치마크 뷰어, 그리고 공식 채점 스크립트와 점수를 검증하기 위한 오픈소스 저장소(c137-runner)가 포함되어 있습니다.
저자는 결과를 재현할 수 있도록 코드와 벤치마크를 제공하며, 시스템 테스트나 통합에 관심 있는 사람들에게 도움을 제공합니다.