يقترح الباحثون TR-RAG، وهي طريقة تعلم معزز منتظم بالمعلم تعالج انحراف اللغة والاستخدام غير الموثوق به للأدلة في التوليد المعزز بالاسترجاع عبر اللغات باستخدام أدلة باللغة الإنجليزية. يجمع النهج بين تحسين المكافأة والتقطير ضمن السياسة، باستخدام معلم متجمد لتوفير مراسلات عكسية-KL لكل بادئة للإجابات التي يتم أخذ عينات منها بواسطة طالب مضغوط.

  • يجمع TR-RAG بين اتساق اللغة، واسترجاع ثلاثيات الأحرف، ودرجات حكم نموذج لغوي كبير في تحليل المكافأة للتوليد متعدد اللغات.
  • يمنع مرسي المعلم انهيارات كبيرة في اتساق اللغة تصل إلى حوالي 27 نقطة مئوية شوهدت في التعلم المعزز بالمكافأة فقط على لغات المجال الداخلي.
  • بالنسبة للغات البعيدة خارج التوزيع، تحسن الطريقة ترسيخ الأدلة حيث يتعثر التعلم المعزز بالمكافأة فقط عند سقف النموذج الأساسي.
  • يتجاوز الطالب المضغوط أحياناً معلمه ذو الـ 70 مليار معلم في استرجاع ثلاثيات الأحرف عبر معايير BioASQ-ENKB5 وHotpot-ENKB5 وMKQA.

يعتقد المؤلفون أن هذا مهم لأنه يثبت التدريب ويحسن كل من الالتزام اللغوي وصحة التأسيس بالأدلة دون الحاجة إلى ضبط دقيق مكلف للنموذج الكامل.