github
llama.cpp
·
il y a 7 j
La version b9786 de llama.cpp ajoute le support des lignes non contiguës via OpenCL
Le projet llama.cpp a publié la version b9786, introduisant le support des lignes non contiguës dans la normalisation via OpenCL. Cette mise à jour fait partie du développement continu par l'équipe ggml-org pour améliorer la compatibilité matérielle et les performances sur diverses plateformes. La version fournit des binaires pour macOS Apple Silicon, Mac Intel et iOS XCFrameworks. Les utilisateurs Linux peuvent accéder aux builds pour Ubuntu x64, arm64 et architectures s390x en utilisant les backends CPU, Vulkan, ROCm 7.2, OpenVINO et SYCL. Le support Android est disponible pour les appareils CPU arm64, tandis que Windows offre de nombreuses options incluant CPU, CUDA 12 et 13, Vulkan, OpenVINO, SYCL et HIP. La version liste également les builds désactivés pour KleidiAI sur les plateformes macOS et openEuler.