Le projet ggml-org a publié la version b9878, qui inclut une correction pour les paramètres tensor-split obsolètes affectant les modèles de brouillon. Cette mise à jour traite des problèmes de métadonnées spécifiquement liés à l'attention GQA au sein du composant ggml-backend-meta.

  • Correction des métadonnées de séparation des tenseurs pour l'attention GQA.
  • Annulation d'un commit précédent qui avait introduit une astuce d'actif dans ggml-backend-meta.
  • Fourniture de binaires pour macOS (Apple Silicon et Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) et les plateformes openEuler.

Cette version garantit une gestion correcte des paramètres pour les modèles de brouillon tout en distribuant des binaires mis à jour sur toutes les architectures matérielles prises en charge.