llama.cpp 的最近更新针对 SYCL/Intel 硬件引入了多项改进,包括性能提升和新功能支持。

  • 通过 oneDNN 图 API 使用 XMX 引擎的 Flash Attention 现已适用于 Xe2 架构,显著加速了 Qwen3.6-27b-Q8_0 等模型的预填充速度。
  • 代码库现在支持 XIELU 操作类型,并为 conv2d_dw 内核添加了 fp16 支持。
  • 修复包括增加 USM 系统分配的缓冲区最小大小,并修正 Q2_K、Q4_K 和 Q5_K 量化的 get_rows 操作中的错误。

这些更改提升了在 SYCL 后端上运行 llama.cpp 的 Intel GPU 用户的兼容性和性能。