يقدم الباحثون DemoPSD، وهو إطار عمل يعالج تسرب المعلومات المميزة والتكيف الزائد في التقويم الذاتي على السياسة (OPSD) للنماذج اللغوية الكبيرة. تستخدم الطريقة اعتمادًا انتقائيًا لتوجيه المعلم عن طريق توجيه الطالب إلى هدف باريcenter KL العكسي، مما يوازن بين التعلم من المعلم والحفاظ على قدرة الطالب على الاستدلال.
- تقيس DemoPSD فروق التوزيع للتحكم بشكل تكيفي في الخلط عند كل موضع للتوكن.
- يحقق النهج بشكل مثبت تخفيف التسرب والحفاظ على الاستكشاف تحت التقويم المكثف على مستوى التوكن.
- تظهر التجارب على SciKnowEval عبر أربعة مجالات علمية أن DemoPSD يتفوق على GRPO وSDPO.
- تحافظ الطريقة على إنتروبيا تدريب أعلى وتعمم بشكل قوي على معايير GPQA خارج التوزيع.
تحل DemoPSD المشكلات الأساسية في OPSD عن طريق منع الطالب من ترميز اختصارات تعتمد على الإجابة غير المتاحة وقت الاختبار، مما يحسن التعميم عبر المجالات.