DeshwalX a publié un classificateur multi-étiquettes pour les garde-fous LLM à faible latence, en affinant le modèle `google/electra-small-discriminator` d'environ 14M de paramètres pour détecter quatre vecteurs de sécurité indépendants en un seul passage avant.
- F1 Micro : 90,00 % | F1 Macro : 89,00 %
- Attaques par prompt (Jailbreaks) : F1 de 1,00
- Refus de réponse : F1 de 0,86
- Prompt nuisible : F1 de 0,88
- Réponse nuisible : F1 de 0,81
L'auteur cherche des retours de la communauté pour améliorer la version 1, demandant spécifiquement des cas limites où le modèle échoue, des exemples de faux positifs sur des entrées bénignes et des suggestions pour les configurations d'architecture ou l'équilibrage des poids de perte.