Joakimpalm-Zen이 Xyntetik Runner를 업데이트하여, 추론에 사용되는 동일한 양자화된 GGUF 가중치를 사용하여 LoRA 어댑터를 직접 학습하도록 했으며, 별도의 FP16 학습 복사본이나 런타임의 필요성을 제거했습니다.
- 동결된 Qwen3-4B Q4_K_M GGUF에 대해 도구 사용 LoRA를 학습했으며, 홀드아웃 평가에서 정확한 도구 호출과 올바른 도구 선택에 대해 1.00의 정확도를 달성했습니다.
- 동일한 기본 GGUF, 데이터셋, 시드 및 구성을 사용한 두 개의 독립적인 실행은 SHA256 해시가 일치하는 바이트 단위로 동일한 어댑터 GGUF를 생성했습니다.
- BF16, Q8_0 및 Q4_K_M 양자화 간 비교 결과, 모든 경우 1.00의 정확도에 도달했지만, Q4를 통한 학습은 더 높은 정밀도 버전보다 측정 가능한 다른 최적화 경로(코사인 유사도 0.9926)를 따랐습니다.
저자는 Hugging Face에서 완전한 재현성 아티팩트를 제공하지만, 이 실험이 작은 데이터셋을 가진 좁은 합성 작업에 국한되어 있으며, 일반적인 능력 향상보다는 학습 메커니즘과 결정론적 특성의 데모로서 주로 기능함을 명시합니다.