한 사용자가 DiffusionGemma 모델을 해양 도메인 데이터셋에 적응시키는 방법에 대한 조언을 찾고 있으며, 특히 도메인 적응을 위한 Continued Pretraining (CPT) 수행 방법을 모색하고 있습니다.

  • 사용자는 Supervised Fine-Tuning (SFT)를 시도했지만 환각이 증가하고 지시 따르기 품질이 저하되는 것을 관찰했습니다.
  • DiffusionGemma는 기본 모델 없이 지침 튜닝된 체크포인트만 제공하므로 표준 CPT 후 SFT 워크플로우가 방지됩니다.
  • 사용자는 DiffusionGemma의 성공적인 CPT 예제나 CPT를 지원하고 우수한 추론 속도를 제공하는 다른 텍스트 확산 모델을 추천해 달라고 요청합니다.
  • 하드웨어 제약 조건에는 훈련용 NVIDIA DGX Spark와 추론용 RTX A6000 (48 GB)이 포함됩니다.