TheImmortalPython이 Hugging Face transformers에서 사용자 지정 생성 제약을 실험하는 개발자를 위해 설계된 경량 오픈소스 도구 pklm-sandbox를 출시했습니다.

  • LogitsProcessor 아키텍처를 사용하여 사용자 지정 토큰 마스킹 파이프라인과 드리프트 없는 언어적 구속을 테스트하기 위한 간단한 샌드박스를 제공합니다.
  • GitHub 저장소에서 pip를 통해 설치가 가능합니다.
  • 프로세서는 사용자가 표준 generate() 파이프라인 내에서 특정 토큰 ID를 직접 차단할 수 있도록 합니다.

이 프로젝트는 개발자가 로컬에서 사용자 지정 토큰 제어를 구현하기 위한 깔끔한 시작점을 제공하고자 합니다.