يقدم الباحثون تقييم مساهمة اللوغيت (LOCOS)، وهو كاشف واعٍ بالكتابة يحدد رؤوس الانتباه التي تقوم بتوليف غير حرفي في نماذج اللغات الكبيرة ذات السياق الطويل. على عكس الطرق الحالية التي تعتمد على نسخ الحرفي للرموز، يقوم LOCOS بتقييم الرؤوس عن طريق إسقاط دائرة قيمة الإخراج الخاصة بها على اتجاه فك تشفير رمز الإجابة.
- تم الاختبار عبر عائلات النماذج Qwen3 وGemma-3 وOLMo-3.1 على معيار NoLiMa.
- على Qwen3-8B، أدى حذف الرؤوس الـ 50 الأعلى في LOCOS إلى انخفاض ROUGE-L من 0.401 إلى 0.000، بينما حافظت الخطوط الأساسية على 0.292.
- أدى الحذف أيضًا إلى انخفاض درجات MuSiQue من 0.55 إلى 0.08 وBABi-Long من 0.62 إلى 0.20.
- بقي الاسترجاع البارامتري والاستدلال الحسابي عند مستويات الخط الأساسي تحت نفس الحذف، مما يؤكد خصوصية الاسترجاع.
يوفر LOCOS آلية أكثر دقة لتفسير سلوك نموذج السياق الطويل من خلال استهداف الرؤوس المحددة المسؤولة عن توليف الإجابات بدلاً من مجرد قراءة السياق.