llama.cpp 项目发布了构建版本 b10655,在 Vulkan 后端引入了对 LIGHTNING_INDEXER 操作的支持,以启用 Deepseek V4 操作。

  • 将 LIGHTNING_INDEXer 操作添加到 Vulkan 后端。
  • 更新 lightning_indexer.comp 和 ggml-vulkan.cpp,将 128 通道点积归约从共享内存树移至 subgroupAdd。
  • 包含清理更改,如跳过边界检查并还原之前的 FA_K_ONLY 修改。
  • 恢复交错的 K/V 缓冲区排序并移除 FA_K_ONLY 逻辑。

此更新为 Vulkan 用户提供了使用新的 LIGHTNING_INDEXER 实现运行 Deepseek V4 操作的能力。