ある研究は、生体医学データからテキストへの生成において、Qwenベースの小規模言語モデルに対して、教師ありファインチューニング(SFT)、直接選好最適化(DPO)、オッズ比選好最適化(ORPO)、およびグループ相対ポリシー最適化(GRPO)を含むトレーニング後手法を比較している。

  • アライメントされたSLMは、医薬品パッケージ説明書の生成においてGPT-5のような proprietary モデルを上回る。
  • ORPOはこの特定のタスクにおいてSFTベースラインを上回る。
  • GRPOはテストされたアライメント手法およびGPT-5の中で最も堅牢なクロスデータセットパフォーマンスをもたらす。

これらの知見は、慎重にアライメントされた小規模言語モデルが、専門的な生体医学翻訳タスクにおいて、より大きな proprietary な代替案と比較して優れた結果を達成し得ることを示唆している。