Исследование сравнивает методы постобучения, включая контролируемое тонкое донастраивание (SFT), прямую оптимизацию предпочтений (DPO), оптимизацию предпочтений через отношение шансов (ORPO) и групповую относительную оптимизацию политики (GRPO) на малых языковых моделях на базе Qwen для генерации текста из биомедицинских данных.

  • Адаптированные SLM превосходят проприетарные модели, такие как GPT-5, при генерации инструкций по применению лекарств.
  • ORPO превосходит базовые методы SFT в этой конкретной задаче.
  • GRPO демонстрирует наиболее устойчивую кросс-датасетную производительность среди протестированных методов адаптации, а также модели GPT-5.

Результаты указывают на то, что тщательно адаптированные малые языковые модели могут достигать превосходных результатов по сравнению с более крупными проприетарными аналогами для специализированных задач биомедицинского перевода.