Le projet llama.cpp a publié la version b10051, qui résout un problème critique dans l'intégration des capacités de Scalable Matrix Extension (SME). La mise à jour introduit une distinction au moment de la compilation et de l'exécution entre SME(v1) et SME2 pour garantir le dispatch correct du kernel.
- Les versions précédentes traitaient SME comme une seule capacité, envoyant incorrectement les instructions spécifiques à SME2 sur du matériel ne supportant que SME(v1).
- La correction relie les kernels SME(v1) et SME2 en fonction du support matériel réel, empênant l'exécution incorrecte sur les systèmes uniquement compatibles avec SME(v1).
- Les binaires sont disponibles pour macOS (Apple Silicon et Intel), Linux (x64, arm64, s390x, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, HIP, OpenVINO, SYCL) et openEuler.
Ce changement garantit que llama.cpp fonctionne correctement sur une plus large gamme de matériel ARM en respectant la version spécifique de SME prise en charge par le CPU.