Joakimpalm-Zen обновил Xyntetik Runner для обучения адаптеров LoRA непосредственно с использованием тех же квантованных весов GGUF, которые он обслуживает для вывода, устраняя необходимость в отдельной копии FP16 для обучения или времени выполнения.

  • Инструментальный LoRA был обучен на замороженном Qwen3-4B Q4_K_M GGUF, достигнув точности 1.00 на точных вызовах инструментов и правильном выборе инструмента в отложенных оценках.
  • Два независимых запуска с тем же базовым GGUF, набором данных, сидом и конфигурацией произвели байтово идентичные адаптеры GGUF с совпадающими хэшами SHA256.
  • Сравнения между квантованиями BF16, Q8_0 и Q4_K_M показали, что хотя все достигли точности 1.00, обучение через Q4 следовало измеримо другим путем оптимизации (косинусное сходство 0.9926) по сравнению с версиями более высокой точности.

Автор предоставляет полные артефакты воспроизводимости на Hugging Face, но отмечает, что эксперимент ограничен узкой синтетической задачей с малыми данными, служа в первую очередь демонстрацией механизма обучения и детерминированных свойств, а не общим улучшением возможностей.