llama.cpp b10032 ajoute GGML_OP_LIGHTNING_INDEXER CUDA

Le projet llama.cpp a publié la version b10032, qui introduit une nouvelle implémentation CUDA pour l'opération GGML_OP_LIGHTNING_INDEXER. Cette mise à jour inclut des noyaux vectoriels génériques et WMMA pour gérer les tâches d'indexation sur le matériel NVIDIA.

• L'indexeur éclair CUDA utilise des noyaux vectoriels génériques et WMMA.
• Les paramètres de modèle WARPS_PER_BLOCK et K_VECS_PER_BLOCK ont été ajoutés pour réduire la duplication des constantes.
• Les exigences de l'architecture MMA ont été assouplies pour prendre en charge les GPU Turing.
• Des vérifications d'alignement pour les tenseurs Q et K ont été ajoutées à l'implémentation.
• La fonction ggml_cuda_op_lightning_indexer a été renommée ggml_cuda_lightning_indexer.

Cette version fournit des binaires pour macOS, Linux, Windows, Android et openEuler sur CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL et d'autres backends.