DeshwalX выпустил многоклассификатор для защитных механизмов LLM с низкой задержкой, выполнив тонкую настройку модели `google/electra-small-discriminator` (~14 млн параметров) для обнаружения четырех независимых векторов безопасности в одном прямом проходе.
- Микро F1: 90.00% | Макро F1: 89.00%
- Атакующий промпт (взлом ограничений): 1.00 F1
- Отказ в ответе: 0.86 F1
- Вредоносный промпт: 0.88 F1
- Вредоносный ответ: 0.81 F1
Автор ищет отзывы сообщества для улучшения версии 1, конкретно запрашивая пограничные случаи, где модель дает сбой, примеры ложноположительных результатов на безобидных входных данных, а также предложения по конфигурациям архитектуры или балансировке весов функции потерь.