llama.cpp b10032 添加了 CUDA GGML_OP_LIGHTNING_INDEXER

llama.cpp 项目发布了版本 b10032，引入了用于 GGML_OP_LIGHTNING_INDEXER 操作的新 CUDA 实现。此更新包括通用向量和 WMMA 内核，以处理 NVIDIA 硬件上的索引任务。

• CUDA lightning indexer 使用通用向量和 WMMA 内核。
• 添加了模板参数 WARPS_PER_BLOCK 和 K_VECS_PER_BLOCK 以减少常量重复。
• 放宽了 MMA 架构要求以支持 Turing GPU。
• 在实现中添加了针对 Q 和 K 张量的对齐检查。
• 函数 ggml_cuda_op_lightning_indexer 已重命名为 ggml_cuda_lightning_indexer。

此版本为 macOS、Linux、Windows、Android 和 openEuler 提供了适用于 CPU、CUDA、Vulkan、ROCm、OpenVINO、SYCL 及其他后端的二进制文件。