लेखकों ने मल्टी-टीचर ऑन-पॉलिसी डिस्टिलेशन (MOPD) का प्रस्ताव रखा है, जो एक पोस्ट-ट्रेनिंग पैराडाइम है जिसे कई डोमेन-विशिष्ट रिइनफोर्समेंट लर्निंग टीचर्स की क्षमताओं को एकल छात्र मॉडल में एकीकृत करने के लिए डिज़ाइन किया गया है। यह दृष्टिकोण अपने खुद के रोलआउट्स के दौरान टीचर्स को छात्र में डिस्टिल करके एक्सपोज़र बायस को समाप्त करता है और एक घनत्व अनुकूलन संकेत प्रदान करता है।
- MOPD, Qwen3-30B-A3B पर Mix-RL, Cascade RL, Off-Policy Finetune, और Param-Merge बेलाइन्स से बेहतर प्रदर्शन करता है, जिसमें प्रत्येक टीचर की लगभग सभी क्षमताएं विरासत में मिलती हैं।
- इस विधि से डोमेन टीचर्स का समानांतर और स्वतंत्र विकास संभव होता है, जो बहु-डोमेन पोस्ट-ट्रेनिंग की सामान्य क्रॉस-डोमेन कपलिंग को हटा देता है।
- MOPD को उद्योग-स्तर के फ्रंटियर मॉडल MiMo-V2-Flash के पोस्ट-ट्रेनिंग में तैनात किया गया है।
यह कार्य विशेष कौशल के प्रभावी संयोजन की अनुमति देकर, प्रदर्शन हानि के बिना, फ्रंटियर-स्केल LLMs में क्षमता एकीकरण के लिए व्यावहारिक मूल्य को दर्शाता है।