Para peneliti telah mengadaptasi algoritma Recursive Feature Machine (RFM) dengan inisialisasi yang diinformasikan oleh probe untuk secara efisien mengidentifikasi subruas penolakan multidimensi dalam Model Bahasa Besar. Pendekatan ini memungkinkan ekstraksi subruas dalam hitungan detik pada model penalaran seperti Qwen 3 dan model non-penalaran seperti Qwen 2.5, mengatasi larangan komputasi dari metode yang ada.
- Metode ini memanfaatkan RFM untuk menghitung subruas secara signifikan lebih cepat daripada teknik sebelumnya.
- Metode ini mencapai kinerja yang lebih baik pada tugas ablasi dibandingkan dengan metode ekstraksi subruas alternatif lainnya.
- Teknik ini dapat diterapkan pada arsitektur model penalaran maupun non-penalaran.
RFM berfungsi sebagai pelengkap yang murah dan skalabel untuk metode ekstraksi subruas yang ada, memfasilitasi pemantauan keamanan dan analisis interpretabilitas yang lebih mudah diakses dalam LLM.