يُظهر الباحثون أن المعلومات ذات الصلة بالمهمة في مطالبات التعليمات يمكن ضغطها إلى متجه تنشيط واحد وإعادة حقنها في النماذج اللغوية الكبيرة، مما يحل محل تسلسل الرموز الأصلي. يتحقق ذلك باستخدام مجموع مرجّح مُتعلَّم للتنشيط المستخرج من طبقة وسيطة ومحقون في طبقة مبكرة.

  • يحافظ المتجه المضغوط على المعلومات ذات الصلة بالمهمة مع انخفاض في الدقة يقل عن 2% مقارنةً بمعالجة المطالبة الكاملة.
  • تنتقل التمثيلات في الطبقة الوسيطة بشكل ذي معنى إلى الطبقات المبكرة، مما يشير إلى توافق عبر الطبقات في كيفية تشفير المعلومات.
  • يشفّي متجه تنشيط مفرد كمية قابلة للقياس وقابلة للاستعادة من المعلومات الدلالية.
  • يعمل المجموع المرجّح للتنشيط كمُضغِط قوي للتمثيل.

يقلّل هذا النهج من الحساب لكل طلب بالنسبة لمطالبات التعليمات الثابتة دون الحاجة إلى إعادة معالجة تسلسل الرموز الأصلي.