TheImmortalPython выпустил pklm-sandbox, легкий инструмент с открытым исходным кодом, предназначенный для разработчиков, экспериментирующих с пользовательскими ограничениями генерации в Hugging Face transformers.
- Он предоставляет простой песочницу для тестирования конвейеров пользовательского маскирования токенов и лингвистического удержания без дрейфа с использованием архитектуры LogitsProcessor.
- Установка доступна через pip из репозитория GitHub.
- Процессор позволяет пользователям блокировать конкретные идентификаторы токенов непосредственно в стандартном конвейере generate().
Проект стремится дать разработчикам чистую отправную точку для реализации локального управления токенами.