一项研究比较了在小语言模型上的训练后方法,包括监督微调(SFT)、直接偏好优化(DPO)、优势比偏好优化(ORPO)和组相对策略优化(GRPO),用于基于Qwen的小型语言模型在生物医学数据到文本生成中的应用。
- 对齐后的SLM在生成药品包装说明书方面优于GPT-5等专有模型。
- ORPO在该特定任务中优于SFT基线。
- GRPO在测试的对齐方法以及GPT-5中,产生了最稳健的跨数据集性能。
研究结果表明,对于专门的生物医学翻译任务,经过仔细对齐的小型语言模型可以实现比大型专有替代方案更优越的结果。
一项研究比较了在小语言模型上的训练后方法,包括监督微调(SFT)、直接偏好优化(DPO)、优势比偏好优化(ORPO)和组相对策略优化(GRPO),用于基于Qwen的小型语言模型在生物医学数据到文本生成中的应用。
研究结果表明,对于专门的生物医学翻译任务,经过仔细对齐的小型语言模型可以实现比大型专有替代方案更优越的结果。