DeshwalXは、低遅延のLLMガードレール用のマルチラベル分類器をリリースしました。これは単一フォワードパスで4つの独立した安全ベクトルを検出するために、約14Mパラメータの `google/electra-small-discriminator` をファインチューニングしています。
- Micro F1: 90.00% | Macro F1: 89.00%
- プロンプト敵対的（ジャイルブレイク）: 1.00 F1
- レスポンス拒否: 0.86 F1
- プロンプト有害: 0.88 F1
- レスポンス有害: 0.81 F1
著者はバージョン1の改善のためにコミュニティからのフィードバックを求めています。具体的には、モデルが失敗するエッジケース、良性な入力に対する誤検知の例、およびアーキテクチャ構成や損失重みのバランス調整に関する提案を求めています。