Le projet llama.cpp a publié la version b10005, qui inclut des mises à jour spécifiques pour l'architecture du modèle DeepseekV4. Cette version résout les problèmes de gestion des séquences en corrigeant `seq_rm` et en implémentant une fonction `seq_cp` appropriée.

  • Correction de `seq_rm` pour les modèles DeepseekV4.
  • Implémentation de la fonctionnalité `seq_cp` appropriée.
  • Création d'un contexte de mise à jour réel pour une meilleure gestion.
  • Les builds macOS Apple Silicon (arm64) sont disponibles, tandis que le support KleidiAI est désactivé.
  • Les binaires Linux couvrent Ubuntu x64 et arm64 (CPU), s390x, Vulkan, ROCm 7.2, OpenVINO et SYCL FP32/FP16.
  • Des builds Android arm64 CPU sont fournis.
  • Les versions Windows incluent les variantes CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL et HIP.
  • Le support openEuler pour x86 et aarch64 (310p/910b ACL Graph) est inclus, avec certaines configurations désactivées.

Cette mise à jour garantit une gestion correcte des séquences pour les modèles DeepseekV4 sur toutes les plateformes prises en charge.