يقترح الباحثون إطار عمل لمحاذاة التفضيل متعدد الوسائط باستخدام RLHF لترجمة مخطوطات هان-نوم المتدهورة إلى الفيتنامية الحديثة، مما يعالج تحديات مثل الأحرف اللوغوغرافية النادرة والإشراف المتوازي المحدود. يدمج النموذج السمات البصرية من CLIP ViT-L/14@336 مع التمثيلات النصية من bert-base-chinese وvinai/phobert-base، ويضغطها عبر كتلة دمج قبل التوليد.
- يحقق DPO أفضل النتائج في BLEU-4 وROUGE-L وBERTScore والتشابه الدلالي وCER وWER ودقة الرموز مقارنة بـ PPO وKTO.
- يحصل PPO على أعلى درجات الدقة والاستدعاء ومعدل F1 بين الطرق المختبرة.
- يظل KTO تنافسيًا من خلال هدف المنفعة المرغوب وغير المرغوب فيه.
- تحسّن جميع السياسات المحاذاة تفضيلاً درجات BLEU-4 والتشابه الدلالي مقارنة بخط الأساس المُضبط بإشراف.
تشير هذه النتائج إلى أن تحسين التفضيل متعدد الوسائط يكمل التعلم الخاضع للإشراف من خلال تحسين الجودة المعجمية والدلالية في الترجمة التاريخية ذات الموارد المحدودة.