يُظهر الباحثون أن المعلومات ذات الصلة بالمهمة في مطالبات التعليمات يمكن ضغطها إلى متجه تنشيط واحد باستخدام مجموع مرجح مُتعلَّم لتنشيطات من طبقة وسيطة، ثم يُعاد حقنه في طبقة مبكرة من نموذج LLM المستهدف.

  • تحل الطريقة محل تسلسل الرموز الأصلي بالمتجه المضغوط، مما يؤدي إلى انخفاض في الدقة يقل عن 2% مقارنةً بمعالجة المطالبة الكاملة.
  • يكشف التحليل أن تمثيلات الطبقة الوسطى تنقل المعنى بشكل ذي معنى إلى الطبقات المبكرة، مما يشير إلى توافق عبر الطبقات في ترميز المعلومات.
  • يُظهر أن متجه تنشيط واحد يمكنه ترميز كمية قابلة للقياس وقابلة للاسترداد من المعلومات الدلالية.
  • يقلل النهج من الحساب لكل استعلام لمطالبات التعليمات الثابتة دون الحاجة إلى إعادة معالجة تسلسل الرموز الأصلي.