Le projet llama.cpp a publié la version b10025, qui inclut une modification visant à assouplir les exigences de contiguïté des tenseurs pour les opérations de concaténation quantifiée.
- La mise à jour principale modifie le backend CUDA et la bibliothèque ggml sous-jacente pour autoriser les tenseurs non contigus lors de la concaténation quantifiée.
- Des cas de test ont été ajoutés pour vérifier la fonctionnalité avec des entrées de concaténation quantifiée non contiguës.
- Des binaires sont fournis pour macOS (Apple Silicon et Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) et openEuler.
Cette version met à jour l'environnement de construction et corrige des contraintes spécifiques de gestion des tenseurs pour les opérations quantifiées.