Joakimpalm-Zen a mis à jour Xyntetik Runner pour entraîner des adaptateurs LoRA directement en utilisant les mêmes poids GGUF quantifiés qu'il sert pour l'inférence, éliminant ainsi le besoin d'une copie FP16 séparée pour l'entraînement ou d'un runtime dédié.

  • Un LoRA d'utilisation d'outils a été entraîné contre un GGUF Qwen3-4B Q4_K_M figé, atteignant une précision de 1.00 sur les appels d'outils exacts et la sélection du bon outil dans les évaluations hors échantillon.
  • Deux exécutions indépendantes avec le même GGUF de base, jeu de données, graine et configuration ont produit des GGUF d'adaptateur identiques octet par octet avec des hachages SHA256 correspondants.
  • Les comparaisons entre les quantifications BF16, Q8_0 et Q4_K_M ont montré que bien que tous aient atteint une précision de 1.00, l'entraînement via Q4 a suivi un chemin d'optimisation mesurablement différent (similarité cosinus 0.9926) par rapport aux versions à plus haute précision.

L'auteur fournit des artefacts de reproductibilité complets sur Hugging Face mais note que l'expérience est limitée à une tâche synthétique étroite avec peu de données, servant principalement de démonstration du mécanisme d'entraînement et des propriétés déterministes plutôt qu'une amélioration générale des capacités.