تعالج إطار عمل جديد عدم التطابق في التمثيل أثناء إعادة البناء الدلالي المستمر من خلال دمج التمثيلات المعجمية الثابتة (W2V) مع التمثيلات السياقية الديناميكية (GPT). تقارن الدراسة نهجين للتكامل: الإضافة الخطية البسيطة (Naive Concatenation) والانتباه المتقاطع متعدد الرؤوس غير الخطي (Multi-Head Cross-Attention).
- يستخدم النهج آلية بوابة تفاعلية لتسهيل المعالجة التعاونية أثناء فهم اللغة.
- تكشف التقييمات عن تسلسل للأداء: Cross-Att > Concat > GPT > W2V.
- حققت طريقة دمج الانتباه المتقاطع غير الخطي أداءً متقدمًا (state-of-the-art).
يعتقد المؤلفون أن هذا مهم لأنه يوضح أن فك تشفير اللغة العصبية يستفيد من محاكاة التعديل التعاوني بين المعلومات السياقية والسمات المعجمية الأساسية، مما يوفر طريقة عملية لفك التشفير من الدماغ إلى النص دون غزو.