LOPA meningkatkan penilaian bahasa lisan melalui penyelarasan prototipe ordinal laten

Makalah ini memperkenalkan Latent Ordinal Prototype Alignment (LOPA), sebuah regularizer berbasis prototipe yang memaksakan prior geometri ordinal pada ruang laten untuk mengatasi struktur perolehan bahasa yang terabaikan dalam Model Bahasa Besar Multimodal. Dipasangkan dengan Semantic-Anchored Layer Routing (SALR) untuk pengambilan representasi adaptif dari encoder Whisper yang dibekukan, kerangka kerja ini mencapai RMSE sebesar 0.361.

• LOPA memaksakan prior geometri ordinal secara langsung pada ruang laten.
• SALR mengambil representasi multi-kedalaman dari encoder Whisper yang dibekukan secara adaptif.
• Pendekatan ini bersaing dengan sistem berparameter miliaran tanpa memerlukan fine-tuning berbasis LLM.
• Analisis menunjukkan bahwa SALR dan LOPA memberikan preferensi yang dapat diinterpretasikan dan selaras dengan kriteria.

Karya ini menawarkan alternatif pemodelan yang efisien dan sadar ordinal terhadap model berpusat pada penskalaan saat ini untuk penilaian bahasa lisan.