تقترح دراسة إطارًا لمراجعة السببية لتقييم الحذف الواقعي في نماذج اللغات ذات الذاكرة المحدودة (LMLMs)، والتي تُخرج المعرفة إلى قواعد البيانات للنسيان. يعزل الإطار التسرب البارامتري عن الدقة الوسيطة بالاسترجاع والنتائج الثانوية من خلال تغيير حالات قاعدة البيانات أثناء الاستدلال.
- اختبر المؤلفون 12,228 حذفًا لإغلاق المرادفات عبر ثلاثة عشر قاعدة بيانات بأربع طوبولوجيات معادية وست صيغ للسياق.
- وُجد أن التسرب البارامتري قريب من الصفر، مما يعني أن النموذج نادرًا ما يعيد الإجابات المحذوفة دون استرجاع.
- تستمر المعرفة المتبقية بشكل أساسي من خلال استرجاع الجيران القريبين، بمعدلات تتراوح بين 0.7% و13.6% اعتمادًا على طوبولوجيا قاعدة البيانات.
- لم تتحكم صيغة السياق بشكل مستقل في بقاء الحقائق المحذوفة.
تشير النتائج إلى أن فعالية النسيان لهذه الفئة من نماذج LMLM تُحدد بواسطة إدارة مسؤول قاعدة البيانات لرسم الاسترجاع بدلاً من المعلمات الداخلية للنموذج.