Le projet llama.cpp a publié la compilation b10048, qui inclut une correction pour les modèles Phi3, Bert, Plamo2/3 et ChatGLM.

  • Correction des problèmes avec les architectures Phi3, Bert, Plamo2/3 et ChatGLM.
  • Le support KleidiAI pour macOS Apple Silicon est désactivé dans cette compilation.
  • Les compilations openEuler sont disponibles pour les architectures x86 et aarch64, y compris le support de ACL Graph 910b.
  • Les binaires Windows incluent désormais le support de CUDA 13.3 aux côtés des options CUDA 12.4 existantes.
  • Des binaires précompilés sont fournis pour Ubuntu (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android arm64 et macOS Intel.

Cette version fournit des binaires mis à jour pour diverses plateformes et accélérateurs matériels afin de garantir la compatibilité avec les architectures de modèles spécifiées.