Penyelarasan pasca-pelatihan model bahasa kecil berbasis Qwen untuk generasi brosur obat

Sebuah studi membandingkan metode pasca-pelatihan termasuk fine-tuning terawasi (SFT), optimisasi preferensi langsung (DPO), optimisasi preferensi rasio odds (ORPO), dan optimisasi kebijakan relatif kelompok (GRPO) pada model bahasa kecil berbasis Qwen untuk generasi teks dari data biomedis.

• SLM yang diselaraskan mengungguli model proprietari seperti GPT-5 dalam menghasilkan brosur kemasan obat.
• ORPO mengungguli baseline SFT dalam tugas spesifik ini.
• GRPO memberikan kinerja lintas-dataset paling robust di antara metode penyelarasan yang diuji serta GPT-5.

Temuan tersebut menunjukkan bahwa model bahasa kecil yang diselaraskan dengan cermat dapat mencapai hasil yang lebih unggul dibandingkan alternatif proprietari yang lebih besar untuk tugas terjemahan biomedis khusus.