Les chercheurs proposent HyperSafe, un cadre qui restaure le comportement sûr des grands modèles de langage fine-tunés en générant un Safe Side Network (SSN) spécifique au modèle lors de l'inférence. La méthode utilise des empreintes d'activation par couche et des prompts de calibration pour mapper les représentations aux paramètres du SSN sans modifier les poids originaux du modèle.
- HyperSafe génère un SSN pour chaque checkpoint fine-tuné en utilisant un seul passage avant sur les empreintes d'activation.
- Le SSN effectue une classification de la sécurité au niveau du prompt, routant les entrées nuisibles vers le refus tout en laissant passer les prompts sûrs via le modèle figé.
- Évalué sur Qwen2-7B et LLaMA-3-8B, il réduit les taux de réponses nuisibles de 19 à 31 % à moins de 1 % sur les checkpoints conservés.
- La précision des tâches en aval reste dans une marge de 1 % par rapport à la ligne de base fine-tunée en moyenne.
Cette approche fournit une méthode de restauration de la sécurité non invasive et post-hoc qui ne nécessite aucune mise à jour de gradient ni données de sécurité supplémentaires au moment du déploiement.