पत्र में लेटेंट ऑर्डिनल प्रोटोटाइप एलाइनमेंट (LOPA) पेश किया गया है, जो एक प्रोटोटाइप-आधारित रेगुलराइजर है जो मल्टीमोडल लार्ज लैंग्वेज मॉडल्स में भाषा अधिग्रहण की उपेक्षित संरचना को संबोधित करने के लिए लैटेंट स्पेस पर एक ऑर्डिनल ज्यामितीय प्रायर लागू करता है। फ्रोजन व्हिस्पर एन्कोडर से एडेप्टिव रिप्रजेंटेशन हार्वेस्टिंग के लिए सेमैंटिक-एंकर्ड लेयर रूटिंग (SALR) के साथ जुड़ा हुआ, फ्रेमवर्क 0.361 का RMSE प्राप्त करता है।
- LPA लैटेंट स्पेस पर सीधे ऑर्डिनल ज्यामितीय प्रायर्स लागू करता है।
- SALR एक फ्रोजन व्हिस्पर एन्कोडर से मल्टी-डेप्थ रिप्रजेंटेशंस को एडेप्टिव रूप से हार्वेस्ट करता है।
- दृष्टिकोण LLM-आधारित फाइन-ट्यूनिंग की आवश्यकता के बिना अरबों पैरामीटर वाले सिस्टम के बराबर है।
- विश्लेषण दिखाता है कि SALR और LPA व्याख्या योग्य, मानदंड-अलाइन्ड प्राथमिकताएं प्रदान करते हैं।
यह कार्य वर्तमान स्केलिंग-केंद्रित मॉडल्स के लिए एक कुशल और ऑर्डिनल-जागरूक मॉडलिंग विकल्प प्रस्तुत करता है।