Pesquisadores adaptaram o algoritmo Recursive Feature Machine (RFM) com inicialização informada por sondas para identificar eficientemente subespaços de recusa multidimensionais em Modelos de Linguagem Grande. Esta abordagem permite a extração de subespaços em segundos tanto em modelos de raciocínio como Qwen 3 quanto em modelos não de raciocínio como Qwen 2.5, abordando as proibições computacionais dos métodos existentes.

  • O método utiliza RFM para calcular subespaços significativamente mais rápido que técnicas anteriores.
  • Ele alcança melhor desempenho em tarefas de ablação comparado a métodos alternativos de extração de subespaços.
  • A técnica é aplicável a arquiteturas de modelos tanto de raciocínio quanto não de raciocínio.

RFM serve como um complemento barato e escalável aos métodos existentes de extração de subespaços, facilitando monitoramento de segurança mais acessível e análise de interpretabilidade em LLMs.