Seorang pengguna Reddit meminta wawasan dunia nyata dan praktik terbaik untuk fine-tuning Small Language Models (SLM), khususnya berfokus pada full fine-tuning dan metode Parameter-Efficient Fine-Tuning (PEFT) seperti LoRA.
Pembuat postingan bertujuan untuk meningkatkan pengetahuan SLM dalam domain tertentu, seperti biologi kelautan, sambil mempertahankan kemampuan penalaran umumnya. Mereka tertarik dengan saran konkret mengenai kurasi dataset, pemilihan rank LoRA yang tepat untuk tugas yang berbeda, dan strategi untuk menghasilkan data sintetis selama tahap Supervised Fine-Tuning (SFT) dan alignment.
Tujuannya adalah untuk mengintegrasikan model khusus ke dalam pipeline perusahaan sebagai LLM-as-a-judge atau sekadar untuk mempelajari teknik fine-tuning secara efektif.