DeshwalX 发布了一个用于低延迟 LLM 护栏的多标签分类器,通过对 `google/electra-small-discriminator`(约 1400 万参数)进行微调,在一次前向传播中检测四个独立的安全向量。
- Micro F1: 90.00% | Macro F1: 89.00%
- 提示对抗(越狱):1.00 F1
- 拒绝响应:0.86 F1
- 有害提示:0.88 F1
- 有害响应:0.81 F1
作者正在寻求社区反馈以改进版本 1,特别请求提供模型失败的边缘情况、良性输入上的假阳性示例,以及关于架构配置或损失权重平衡的建议。