연구원들은 Unsloth를 사용하여 종양학 작업을 위해 MedGemma 4B 및 27B 모델을 파인튜닝했으며, 단일 DGX Spark에서 프로세스를 완료했습니다. 결과적인 OncoLLM 모델과 함께 훈련 데이터셋 및 상세 보고서가 공개적으로 제공됩니다.
- 4B 모델은 LoRA를 사용하여 파인튜닝되었으며, 27B 모델은 QLoRA를 사용했습니다.
- 기술 노트에서는 Unsloth 버전 2026.9.12가 4B 어댑터를 약 0.5로 스케일링하며 명목상의 alpha/r 비율인 0.25가 아님을 강조합니다.
- 소스 모델과 코드는 Hugging Face의 Grujowmi (ANTOINE Pierre)에게 귀속되며, 전체 보고서는 Zenodo에 호스팅됩니다.