研究者らは、HyperSafeというフレームワークを提案した。これは、推論時にモデル固有の安全側ネットワーク（SSN）を生成することで、微調整された大規模言語モデルの安全な動作を回復するものである。この手法は、層ごとの活性化指紋とキャリブレーションプロンプトを使用し、元のモデルの重みを変更せずに表現をSSNのパラメータにマッピングする。

  • HyperSafeは、活性化指紋に対する単一順伝播により、各微調整済みチェックポイントに対してSSNを生成する。
  • SSNはプロンプトレベルの安全分類を実行し、有害な入力を拒否にルーティングしつつ、安全なプロンプトは凍結されたモデルを通す。
  • Qwen2-7BおよびLLaMA-3-8Bで評価した結果、保持されたチェックポイント全体で有害な応答率を19〜31%から1%未満に低減した。
  • 下流タスクの精度は平均して微調整済みベースラインの1%以内に留まる。

このアプローチは、展開時に勾配更新や追加の安全データが不要な、非侵襲的な事後型安全性回復手法を提供する。