L'auteur remet en question la pratique du fine-tuning de modèles sur des traces chain-of-thought (CoT) de pointe résumées ou censurées, arguant que ce n'est pas une solution magique pour améliorer la qualité des sorties.
- La distillation n'élève pas la qualité des sorties au-delà de ce que le modèle de base est capable de produire.
- Les fine-tunes basés sur les modèles de Fable et d'Anthropic sont critiqués car leurs traces de raisonnement diffèrent considérablement des sorties réelles des modèles.
- Ce décalage garantit que les modèles fine-tunés résultants performeront pire qu'auparavant.
L'auteur suggère que s'appuyer sur ces traces résumées est contre-productif pour améliorer les capacités de raisonnement.