ChetGPT를 사용한 Llama 3.2의 창의적 작성을 위한 파인튜닝에 대한 사용자 질문

Hugging Face의 한 사용자가 QLoRA와 ChetGPT라는 사용자 정의 자동화 스크립트를 사용하여 Llama-3.1-8B 모델을 파인튜닝하려는 시도에 대해 논의하고 있습니다. 목표는 지시형 모델이 아닌 창의적 작성을 위한 모델을 만드는 것이며, 해리 포터 소설을 학습 데이터로 사용합니다.

사용자는 GPT의 조언을 따랐지만 장면이 무작위로 잘리거나 잘못 재배열되는 등 재앙적인 결과가 나왔다고 보고합니다. 그들은 자동 데이터 분석, 데이터 크기에 기반한 학습량 결정, 스타일 학습 검증을 위한 생성 테스트 등의 기능을 포함하는 `train_auto.py`의 Python 코드를 공유했습니다.

이 게시물은 원하는 창의적 작성 능력을 달성하기 위해 이 접근 방식과 관련 코드가 올바른지에 대한 피드백을 요청하는 것입니다.