يقترح الباحثون إعادة استخدام البيانات الموجهة بالتذكر، وهو نموذج تدريبي يستخدم إشارات التذكر من النموذج لتحديد بشكل تكيفي متى وكيف يجب إعادة استخدام البيانات عالية الجودة أثناء تدريب النماذج اللغوية الكبيرة. يهدف هذا النهج إلى تحسين كفاءة العينات والأداء من خلال تجاوز القيود التقليدية للعبور الواحد أو الفترات الثابتة.
تستخرج الطريقة إشارات "نافذة التذكر" من ديناميكيات الاحتفاظ بالخسارة ودرجات التقييم اللاحقة لاتخاذ قرارات مبدئية بشأن فترات التدريب وجدولة إعادة تشغيل البيانات. تشير التجارب الأولية إلى نظام مدفوع بالتذكر حيث تستمر أداء النموذج في التحسن مع التكرار بشكل كبير يتجاوز حد الأربعة فترات المذكور عادةً.
توفر هذه الرؤى أساسًا لجدولات تدريب واعية بالتذكر، مما يساعد في تحديد ميزانيات إعادة الاستخدام المناسبة وتمكين تدريب نماذج لغوية كبيرة أكثر كفاءة باستخدام بيانات عالية الجودة محدودة.