Le projet llama.cpp a publié la version b9915, qui introduit le support des opérations GGML_OP_SET_ROWS CPU f16-to-f16. Cette mise à jour inclut également les vérifications de type manquantes pour cette opération et fusionne les fonctions de propagation avant f32 et f16 en une seule implémentation.
- ggml ajoute le support GGML_OP_SET_ROWS CPU f16->f16 avec des vérifications de type ajoutées
- ggml_compute_forward_set_rows_f32() et ggml_compute_forward_set_rows_f16() sont fusionnés dans ggml_compute_forward_set_rows_impl()
- Les assertions sont remplacées par GGML_ASSERT()
- Des binaires macOS Apple Silicon (arm64), macOS Intel (x64) et iOS XCFramework sont fournis
- Les builds Linux incluent Ubuntu x64, arm64, s390x CPU, Vulkan, ROCm 7.2, OpenVINO et les variantes SYCL FP32/FP16
- Des binaires Android arm64 (CPU) sont disponibles
- Les builds Windows couvrent x64 et arm64 CPU, OpenCL Adreno, CUDA 12.4 et 13.3, Vulkan, OpenVINO, SYCL et HIP
- openEuler prend en charge x86 et aarch64 avec ACL Graph pour les puces 910b
Cette version fournit des binaires mis à jour sur plusieurs plateformes et accélérateurs matériels pour les utilisateurs nécessitant la nouvelle fonctionnalité set rows.