llama.cpp b10016 版本通过 oneDNN 图 API 引入了对使用 XMX 引擎的 Flash Attention 的 SYCL 支持。此更新主要针对 Intel Battlemage (Xe2) 硬件，将功能范围缩小到该架构，而其他架构则回退到现有内核。

  • F16 Flash Attention 在序列长度为 512 时为 Qwen3.6-27b-Q8_0 提供 1.21x 的预填充加速，在 80k 时提供 4.26x 的加速。
  • 在 Meta-Llama-3.1-8B-Instruct 上的基准测试显示，预填充性能提高了 32%，而困惑度差异仅为 0.11%。
  • 该实现包括 Battlemage gate、用于流处理的多设备同步以及针对多 GPU 同步问题的修复。

此更改通过利用特定于硬件的加速功能，在兼容的 Intel GPU 上实现更快的推理。