L'implémentation OpenCL a désactivé le reconditionnement des poids Flash Attention (FA) et Mixture of Experts (MoE). Ce changement est mis en œuvre pour contourner des problèmes spécifiques du compilateur affectant ces opérations.
OpenCL désactive le reconditionnement des poids FA et MoE pour contourner les problèmes du compilateur
Traduit de English → Français