La alineación multimodal de RLHF mejora la traducción de Han-Nom al vietnamita

Los investigadores proponen un marco de alineación de preferencias multimodal de RLHF para traducir manuscritos degradados de Han-Nom al vietnamita moderno, abordando desafíos como caracteres logográficos raros y supervisión paralela limitada. El modelo integra características visuales de CLIP ViT-L/14@336 con representaciones de texto de bert-base-chinese y vinai/phobert-base, comprimirlas mediante un bloque de fusión antes de la generación.

• DPO logra los mejores BLEU-4, ROUGE-L, BERTScore, similitud semántica, CER, WER y precisión de tokens en comparación con PPO y KTO.
• PPO obtiene las puntuaciones más altas de precisión, recall y F1 entre los métodos probados.
• KTO sigue siendo competitivo a través de su objetivo de utilidad deseable-no-deseable.
• Todas las políticas alineadas por preferencia mejoran las puntuaciones BLEU-4 y similitud semántica sobre la línea base supervisada.

Estos resultados indican que la optimización de preferencias multimodal complementa el aprendizaje supervisado al mejorar la calidad léxica y semántica en la traducción histórica de bajo recurso.