Um estudo audita seletores de neurônios em modelos de linguagem usando zeroamento único de linha de neurônio para determinar se as pontuações de atribuição identificam linhas causalmente importantes. A pesquisa demonstra que os métodos de atribuição superam substancialmente as bases de ativação e magnitude ao identificar linhas dispensáveis em cinco LLMs.
- As linhas atribuídas são suficientes para instalar recusa em tópicos de ódio e crime, mantendo a sobre-recusa benigna baixa e preservando a fluência.
- Controles aleatórios específicos correspondentes por camada nas mesmas profundidades não produzem esse efeito, confirmando a validade causal.
- De acordo com os achados, seletores altamente estáveis em classificação podem ser os menos válidos causalmente.
- A recusa reside em um subespaço redundante onde diferentes métodos de atribuição o instalam através de conjuntos de linhas amplamente disjuntos.
Os autores concluem que proxies de estabilidade de classificação perdem falhas do seletor que auditorias causais diretas podem revelar, mostrando que a edição recuperada é uma realização de um conjunto suficiente em vez de um mecanismo único.