Joakimpalm-Zen telah memperbarui Xyntetik Runner untuk melatih adapter LoRA secara langsung menggunakan bobot GGUF terkuantisasi yang sama yang digunakannya untuk inferensi, sehingga menghilangkan kebutuhan akan salinan pelatihan FP16 terpisah atau waktu eksekusi.

  • Sebuah LoRA penggunaan alat dilatih terhadap Qwen3-4B Q4_K_M GGUF yang dibekukan, mencapai akurasi 1.00 pada panggilan alat tepat dan pemilihan alat yang benar dalam evaluasi data tersembunyi.
  • Dua run independen dengan basis GGUF, dataset, seed, dan konfigurasi yang sama menghasilkan adapter GGUF identik secara byte dengan hash SHA256 yang cocok.
  • Perbandingan di seluruh kuantisasi BF16, Q8_0, dan Q4_K_M menunjukkan bahwa meskipun semuanya mencapai akurasi 1.00, pelatihan melalui Q4 mengikuti jalur optimasi yang terukur berbeda (kesamaan kosinus 0.9926) dibandingkan versi presisi lebih tinggi.

Penulis menyediakan artefak reproduktibilitas penuh di Hugging Face tetapi mencatat bahwa eksperimen ini terbatas pada tugas sintetis sempit dengan data kecil, terutama berfungsi sebagai demonstrasi mekanisme pelatihan dan sifat deterministik daripada peningkatan kemampuan umum.