研究者らは、劣化した漢喃写本を現代ベトナム語に翻訳するためのマルチモーダルRLHF選好整列フレームワークを提案し、稀な表意文字や限られた並列教師データの課題に対処しています。モデルは、CLIP ViT-L/14@336からの視覚特徴とbert-base-chineseおよびvinai/phobert-baseからのテキスト表現を統合し、生成前に融合ブロックを通じて圧縮します。

  • DPOは、PPOおよびKTOと比較して、BLEU-4、ROUGE-L、BERTScore、意味的類似度、CER、WER、トークン精度において最高のスコアを達成しました。
  • PPOは、テストされた手法の中で最も高い精度、再現率、F1スコアを獲得しました。
  • KTOは、望ましい・望ましくないユーティリティ目的関数を通じて競争力を維持しています。
  • すべての選好整列ポリシーは、教師ありファインチューニングベースラインと比較してBLEU-4および意味的類似度スコアを改善しました。

これらの結果は、マルチモーダル選好最適化が低資源の歴史的翻訳において語彙的および意味的な品質を向上させることで、教師あり学習を補完することを示しています。