Joakimpalm-Zen ha actualizado Xyntetik Runner para entrenar adaptadores LoRA directamente utilizando los mismos pesos GGUF cuantizados que sirve para inferencia, eliminando la necesidad de una copia de entrenamiento FP16 separada o un tiempo de ejecución adicional.

  • Se entrenó un LoRA de uso de herramientas contra un GGUF Qwen3-4B Q4_K_M congelado, alcanzando 1.00 de precisión en llamadas exactas a herramientas y selección correcta de herramienta en evaluaciones con datos no vistos.
  • Dos ejecuciones independientes con el mismo GGUF base, conjunto de datos, semilla y configuración produjeron GGUFs de adaptador byte a byte idénticos con hashes SHA256 coincidentes.
  • Las comparaciones entre cuantizaciones BF16, Q8_0 y Q4_K_M mostraron que, aunque todas alcanzaron 1.00 de precisión, el entrenamiento a través de Q4 siguió una trayectoria de optimización mediblemente diferente (similitud coseno 0.9926) que las versiones de mayor precisión.

El autor proporciona artefactos completos de reproducibilidad en Hugging Face, pero señala que el experimento está limitado a una tarea sintética estrecha con datos pequeños, sirviendo principalmente como demostración del mecanismo de entrenamiento y propiedades deterministas en lugar de una mejora general de capacidad.