한 Reddit 사용자는 Unsloth를 사용하지 않고 커스텀 데이터셋으로 로컬 모델을 파인튜닝하는 방법을 찾고 있습니다. 현재 llama.cpp 서버를 실행 중이며 특정 업무 영역에 맞게 모델을 조정하고 싶어 합니다.

  • 이 사용자는 Raspberry Pi에서 로컬 모델을 실행해 본 경험이 있습니다.
  • Unsloth 이외의 사후 학습(post-training) 기법에 대한 조언을 구하고 있습니다.