약물 설명서 생성을 위한 Qwen 기반 소규모 언어 모델의 사후 학습 정렬

한 연구는 의생명 데이터에서 텍스트로의 생성을 위해 Qwen 기반 소규모 언어 모델에 대해 지도 미세 조정(SFT), 직접 선호도 최적화(DPO), 오즈비 선호도 최적화(ORPO) 및 그룹 상대 정책 최적화(GRPO)를 포함한 사후 학습 방법을 비교한다.

• 정렬된 SLM은 의약품 패키지 설명서 생성에서 GPT-5와 같은 독점 모델보다 우수하다.
• ORPO는 이 특정 작업에서 SFT 베이스라인을 능가한다.
• GRPO는 테스트된 정렬 방법 중 GPT-5와 함께 가장 견고한 교차 데이터셋 성능을 제공한다.

이 결과는 신중하게 정렬된 소규모 언어 모델이 전문화된 의생명 번역 작업에서 더 큰 독점 대안보다 우수한 결과를 달성할 수 있음을 시사한다.