एक रेडिट उपयोगकर्ता विशेष रूप से लोरा (LoRA) जैसे पैरामीटर-दक्ष फाइन-ट्यूनिंग (PEFT) विधियों सहित, छोटे भाषा मॉडलों (SLMs) के फाइन-ट्यूनिंग के लिए वास्तविक दुनिया के अंतर्ज्ञान और सर्वोत्तम अभ्यासों की मांग कर रहा है।
पोस्टर एक SLM के ज्ञान को समुद्री जीव विज्ञन जैसे विशिष्ट डोमेन में बढ़ाना चाहता है, जबकि इसके सामान्य तर्क क्षमताओं को बनाए रखता है। वे डेटासेट चयन, विभिन्न कार्यों के लिए उचित लोरा रैंक का चयन और पर्यवेक्षित फाइन-ट्यूनिंग (SFT) तथा संरेखण चरणों के दौरान संश्लेषित डेटा उत्पन्न करने की रणनीतियों के बारे में ठोस सलाह में रुचि रखते हैं।
लक्ष्य विशेषज्ञ मॉडल को कंपनी पाइपलाइन में LLM-as-a-judge के रूप में एकीकृत करना है या बस फाइन-ट्यूनिंग तकनीकों को प्रभावी ढंग से सीखना है।