يقترح الباحثون ReContext، وهي طريقة استنتاج لا تتطلب تدريبًا تعزز الاستدلال طويل السياق من خلال إعادة تشغيل الأدلة ذات الصلة بشكل متكرر داخل آلية الانتباه الداخلية للنموذج.
- تبني الطريقة مجموعة أدلة مشروطة بالاستعلام باستخدام إشارات الصلة الداخلية للنموذج وتعيد تشغيلها قبل التوليد النهائي مع الحفاظ على السياق الأصلي الكامل.
- يفصل هذا النهج تنظيم الأدلة عن توليد الإجابة دون الحاجة إلى تدريب أو ذاكرة خارجية أو تقليم للسياق.
- أظهرت التجارب على ثمانية مجموعات بيانات طويلة السياق بطول سياق يبلغ 128K تحسنًا متسقًا عبر النماذج الأساسية Qwen3-4B وQwen3-8B وLlama3-8B.
- حققت التقنية أفضل متوسط ترتيب على جميع النماذج الثلاثة المختبرة من خلال الاستفادة الفعالة من الأدلة الموجودة بالفعل في الإدخال.
يعالج ReContext الفجوة بين الوصول إلى السياق والاستخدام الفعال، مما يسمح لنماذج اللغات الكبيرة بالاستفادة بشكل أفضل من المدخلات الطويلة لمهام الاستدلال دون عبء تدريب إضافي.