저자가 Trimwise를 출시했습니다. 이는 현재 질문과 관련된 증거를 보존하면서 관련 없는 자료를 제거해 소스 텍스트를 특정 컨텍스트 예산에 맞추도록 설계된 오픈소스 Python 라이브러리입니다.
- 이 라이브러리는 `atrim`을 통한 단일 소스 트리밍과 공유 예산을 두고 소스가 경쟁할 수 있게 하는 `atrim_context`를 통한 다중 소스 트리밍을 지원합니다.
- 요약문을 생성하는 대신 기존 소스 범위를 선택하므로, 보존된 텍스트를 입력으로 추적할 수 있는 출처 정보를 제공합니다.
- 기본 어휘적 경로는 모델 가중치나 LLM 추론이 필요하지 않지만, 의미론적 및 하이브리드 선택을 위한 임베딩 기반 옵션 모드도 제공됩니다.
- 공개된 벤치마크는 특정 시나리오를 다루며, 저자는 부정확한 qualifiers 손실, 부정, 또는 수정된 사실과 같은 경계 사례에 대한 피드백을 구하고 있습니다.
이 도구는 단순한 잘라내기가 필요한 컨텍스트를 버리는 트레이드오프 문제를 해결하고자 하며, 새로운 텍스트를 생성하지 않고도 관련 증거를 보존할 수 있는 방법을 제공합니다.