HyperSafe restaura a segurança em LLMs ajustados por meio de uma Rede Lateral Segura durante a inferência

Pesquisadores propõem o HyperSafe, um framework que restaura o comportamento de segurança em grandes modelos de linguagem ajustados gerando uma Rede Lateral Segura (SSN) específica do modelo durante a inferência. O método utiliza impressões digitais de ativação por camada e prompts de calibração para mapear representações aos parâmetros da SSN sem modificar os pesos originais do modelo.

• O HyperSafe gera uma SSN para cada checkpoint ajustado usando uma única passagem direta sobre as impressões digitais de ativação.
• A SSN realiza a classificação de segurança em nível de prompt, roteando entradas prejudiciais para recusa enquanto permite que prompts seguros passem pelo modelo congelado.
• Avaliado no Qwen2-7B e LLaMA-3-8B, reduz as taxas de resposta prejudicial de 19-31% para menos de 1% em checkpoints retidos.
• A precisão em tarefas downstream permanece dentro de 1% da linha de base ajustada em média.

Esta abordagem fornece um método de restauração de segurança não invasivo e pós-fato que não requer atualizações de gradiente ou dados de segurança adicionais no momento da implantação.