llama.cpp 项目发布了 b11111 构建版本,为 Xe-LPG Plus、Xe2 和 Xe3 架构上的 split k 路径引入了基于 Vulkan 的 flash attention 优化内核。

  • 在 Vulkan 中为 split k 路径添加了 Intel FA 内核优化。
  • 更新了主机代码以处理 split k FA 内核路径选择。
  • 通过在 flash_attn_decode_phase_1 着色器中使用对称 coopMatMulAdd(),修复了 A770 Linux 运算符测试失败问题。
  • 解决了 flash_attn_decode_phase_2.comp 文件中的 editorconfig 问题。

此更新为 Intel Arc GPU 提供了优化的推理能力,并解决了 Linux 系统上特定的驱动程序兼容性问题。