Une recette de quantification personnalisée appliquée au modèle HuiHui abléré démontre des performances supérieures par rapport à la variante vanilla 3.6-35B-a3b dans les tâches de mathématiques et de codage. Les résultats suggèrent que la suppression des mécanismes de refus permet au modèle d'atteindre une plus grande précision et sagesse dans ces domaines.
- Une quantification personnalisée identique a été utilisée pour les modèles HuiHui et Vanilla 3.6-35B-a3b.
- Les benchmarks ont été effectués à l'aide de la suite oMLX en mode instruct sans longues chaînes de raisonnement.
- Le modèle abléré a montré des performances améliorées sur les benchmarks de maths et de codage malgré une petite taille d'échantillon.
Les résultats indiquent que l'ablération peut améliorer les capacités du modèle dans des domaines techniques spécifiques, le modèle HuiHui étant disponible au téléchargement via le lien Hugging Face fourni.