शोधकर्ताओं ने उच्च गुणवत्ता वाले मल्टीमोडल इमोशन रिकग्निशन (MER) के लिए बड़े मॉडलों की आवश्यकता की धारणा को चुनौती दी है, और Light-MER प्रस्तावित किया है, जो एक हल्का फ्रेमवर्क है जो डिस्टिलेशन के माध्यम से एक बड़े टीचर से सब-बिलियन-पैरामीटर स्टूडेंट में ज्ञान स्थानांतरित करता है।
विधि दो अनुकूलन रणनीतियों को पेश करती है: Sliced Wasserstein Distance और हाइडन-स्टेट अलाइनमेंट को जोड़ने वाला एक ऑप्टिमल ट्रांसपोर्ट लॉस, और GRPO पर आधारित एक मल्टी-रिवर्ड रणनीति जो प्रदर्शन और दक्षता के बीच संतुलन बनाती है। नौ बेंचमार्क डेटासेट्स पर व्यापक प्रयोग दिखाते हैं कि Light-MER SOTA प्राप्त करता है जबकि सीमित संसाधनों वाले प्लेटफॉर्म के लिए इनफरेंस दक्षता को महत्वपूर्ण रूप से बढ़ाता है।
यह कार्य भविष्य के शोध के लिए छोटे मल्टीमोडल इमोशन लैंग्वेज मॉडलों की मजबूत क्षमता को उजागर करता है, बड़े मॉडलों के उच्च कंप्यूटेशनल लागत के बिना व्याख्या योग्य विवरण जनरेशन सक्षम बनाता है।