Hugging Face पर एक उपयोगकर्ता QLoRA और ChetGPT नामक एक कस्टम ऑटोमेशन स्क्रिप्ट का उपयोग करके Llama-3.1-8B मॉडल को फाइन-ट्यून करने की अपनी कोशिश पर चर्चा कर रहे हैं। लक्ष्य एक निर्देशात्मक मॉडल के बजाय एक रचनात्मक लेखन मॉडल बनाना है, जिसमें प्रशिक्षण डेटा के रूप में हैरी पॉटर उपन्यासों का उपयोग किया गया है।
उपयोगकर्ता ने रिपोर्ट की है कि GPT के सलाह का पालन करने से विनाशकारी परिणाम मिले, जिनमें दृश्य यादृच्छिक रूप से कट गए या गलत तरीके से पुनर्व्यवस्थित किए गए। उन्होंने `train_auto.py` के लिए अपने पायथन कोड साझा किया, जिसमें स्वचालित डेटा विश्लेषण, डेटा आकार के आधार पर सीखने की मात्रा निर्धारण और शैली सीखने की पुष्टि करने के लिए जनरेशन टेस्ट जैसे फीचर्स शामिल हैं।
यह पोस्ट वांछित रचनात्मक लेखन क्षमताओं को प्राप्त करने के लिए क्या यह दृष्टिकोण और संबंधित कोड सही है, इस पर प्रतिक्रिया मांगने के रूप में कार्य करता है।