يقترح الباحثون إطار عمل Neuron On-Policy Self-Distillation (Neuron-OPSD)، وهو إطار مركّز على البيانات يستغل تنشيات العصب الداخلية لتوجيه اختيار بيانات التدريب وبناء سياق المعلم لنماذج اللغة الكبيرة. يتيح هذا النهج التدريج الذاتي بدون تسميات من خلال تدريب النموذج عبر تدريج on-policy من توزيع المعلم، مما يلغي الحاجة إلى تسميات ground-truth.
تعالج هذه الطريقة قيود تقنيات التطور الذاتي بدون تسميات الموجودة، مثل تدهور الأداء خارج النطاق في المتغيرات المعتمدة على SFT وGRPO، وانتفاش خطأ المعايرة في RL on-policy القائم على المكافأة. من خلال استخدام تنشيات العصب لتوجيه العملية، يهدف Neuron-OPSD إلى تحسين أداء المهام داخل النطاق مع الحفاظ على التعميم عبر النطاقات.
صُمم هذا الإطار للإعدادات حيث يكون التفاعل عبر الإنترنت أو الإشراف الخارجي مكلفًا أو غير ممكن، مما يوفر بديلاً مختلفًا مفاهيميًا عن أساليب RL غير المتصلة بالإنترنت التي تعتمد على المسارات المسجلة ذات تسميات المكافأة.