La version b10034 de llama.cpp corrige un problème critique où les compilateurs pour les appareils Adreno A7x compilent mal les noyaux repack, entraînant une corruption des poids et des sorties erronées dans les modèles Mixture of Experts (MoE). Pour résoudre ce problème, la mise à jour exclut les appareils Adreno A7x de l'utilisation de ces noyaux MoE spécifiques.
- Exclut Adreno A7x de l'utilisation des noyaux MoE Adreno en raison de problèmes de compilation erronée par le compilateur.
- Exclut également les GPU A6x et inconnus d'Adreno du repack des poids MoE pour garantir la stabilité.
- Désactive le support KleidiAI pour les builds macOS Apple Silicon.
- Fournit des binaires pour macOS (Apple Silicon et Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) et openEuler.
Ce changement empêche la corruption des sorties du modèle sur le matériel Adreno concerné, garantissant une inférence fiable pour les utilisateurs disposant de ces GPU.