DeshwalX는 저지연 LLM 가드레일을 위한 다중 레이블 분류기를 출시했으며, 단일 순전파에서 4개의 독립적인 안전 벡터를 감지하기 위해 약 14M 파라미터 `google/electra-small-discriminator` 를 파인튜닝했습니다.
- Micro F1: 90.00% | Macro F1: 89.00%
- 프롬프트 적대적 (재일브레이크): 1.00 F1
- 응답 거부: 0.86 F1
- 프롬프트 유해: 0.88 F1
- 응답 유해: 0.81 F1
저자는 버전 1을 개선하기 위해 커뮤니티의 피드백을 구하고 있으며, 특히 모델이 실패하는 경계 사례, 양호한 입력에 대한 거짓 양성 예시, 아키텍처 구성 또는 손실 가중치 균형 조절에 대한 제안을 요청합니다.