La release b10021 de llama.cpp inclut la réduction des splits de graphe pour DeepSeek V4

Le projet llama.cpp a publié la version b10021, qui intègre un changement visant à réduire les splits de graphe pour le modèle DeepSeek V4.

Cette mise à jour fournit des binaires préconstruits et des frameworks sur plusieurs plateformes et configurations matérielles. Les builds macOS sont disponibles pour Apple Silicon (arm64) et Intel (x64), ainsi qu'un iOS XCFramework. Le support Linux couvre les architectures Ubuntu x64, arm64 et s390x utilisant les backends CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32 et SYCL FP16. Les binaires Android arm64 (CPU) sont également inclus.

Les utilisateurs de Windows peuvent télécharger des builds pour les CPUs x64 et arm64, ainsi que le support GPU via OpenCL Adreno, CUDA 12.4, CUDA 13.3, Vulkan, OpenVINO, SYCL et HIP. De plus, des builds openEuler sont fournis pour les architectures x86 et aarch64 utilisant ACL Graph.