La version b9771 de LLaMA.cpp introduit le support Vulkan sur Linux et Windows, réduisant les variantes de shaders et la taille du binaire en rendant mul_mm ALIGNED une constante de spécification. La version inclut des binaires pour macOS, Linux, Android, Windows et openEuler, avec des variantes pour CPU, Vulkan, OpenVINO, SYCL et ROCm.
LLaMA.cpp Release b9771 Ajoute le Support Vulkan et des Optimisations
Traduit de English → Français