Sebuah studi mengaudit pemilih neuron dalam model bahasa menggunakan pengosongan baris neuron satu-sentuhan untuk menentukan apakah skor atribusi mengidentifikasi baris yang penting secara kausal. Penelitian ini menunjukkan bahwa metode atribusi jauh lebih unggul daripada baseline berbasis aktivasi dan magnitudo dalam mengidentifikasi baris yang tidak diperlukan di lima LLM.
- Baris yang diatribusikan cukup untuk memasang penolakan pada topik kebencian dan kejahatan sambil menjaga over-penolakan jinak tetap rendah dan mempertahankan kelancaran.
- Kontrol acak yang dipasangkan dengan lapisan pada kedalaman yang sama gagal menghasilkan efek ini, mengonfirmasi validitas kausal.
- Pemilih yang sangat stabil dalam peringkat dapat menjadi yang paling tidak valid secara kausal menurut temuan tersebut.
- Penolakan berada di subruang redundan di mana metode atribusi berbeda memasangnya melalui himpunan baris yang sebagian besar saling lepas.
Para penulis menyimpulkan bahwa proksi stabilitas peringkat melewatkan kegagalan pemilih yang dapat terungkap oleh audit kausal langsung, menunjukkan bahwa suntingan yang dipulihkan adalah satu realisasi dari himpunan yang cukup daripada mekanisme unik.