قام الباحثون بتكييف خوارزمية الآلة ذات السمات المتكررة (RFM) مع تهيئة مستنيرة بالمسبار لتحديد فضاءات الرفض متعددة الأبعاد بكفاءة في نماذج اللغة الكبيرة. يتيح هذا النهج استخراج الفضاءات الجزئية في ثوانٍ على كل من نماذج الاستدلال مثل Qwen 3 والنماذج غير الاستدلالية مثل Qwen 2.5، مما يعالج القيود الحسابية للطرق الحالية.

  • تستغل الطريقة RFM لحساب الفضاءات الجزئية أسرع بكثير من التقنيات السابقة.
  • تحقق أداءً أفضل في مهام الإزالة (ablation tasks) مقارنة بطرق استخراج الفضاءات الجزئية البديلة الأخرى.
  • التقنية قابلة للتطبيق على كل من هياكل نماذج الاستدلال والنماذج غير الاستدلالية.

تعمل RFM كمكمل رخيص وقابل للتوسع لطرق استخراج الفضاءات الجزئية الحالية، مما يسهل مراقبة السلامة والتحليل التفسيري بشكل أكثر سهولة في نماذج اللغة الكبيرة (LLMs).