한 레딧 사용자는 로컬 대규모 언어 모델의 성능을 향상시키기 위해 일관된 우화 데이터를 사용하여 Qwen3.6-27B 모델을 파인튜닝하고 있습니다. 이 프로젝트는 커뮤니티로부터 광범위한 우화 데이터셋을 수집하여 모델 성능을 높이는 것을 목표로 합니다.

  • 저자는 H200 GPU를 임대하여 파인튜닝 프로세스를 수행했습니다.
  • 초기 벤치마크 결과 인간 평가 및 SWE 점수에서 +5%의 개선이 나타났습니다.
  • 사용자는 다른 사람들에게 로컬 우화 데이터를 패키징하여 데이터셋에 포함해 줄 것을 요청하고 있습니다.
  • 목표는 추가 학습 실행 후 최종 모델을 오픈소스로 공개하는 것입니다.

이 이니셔티브는 전문화된 데이터 수집을 통해 오픈 웨이트 모델의 능력을 강화하기 위한 커뮤니티 주도 노력을 강조합니다.