llama.cpp 项目发布了版本 b10670，其中包括针对 Intel Xe2 架构的特定优化。该更新将量化键值 (KV) 解码操作专门路由到 BMG 硬件的 TILE 后端，同时在其他架构验证之前继续使用 VEC 后端。

  • 量化 KV 解码现在在 Xe2 (BMG) 上定向到 TILE。
  • 其他架构继续等待验证使用 VEC 后端。
  • 提供适用于 macOS (Apple Silicon 和 Intel)、Linux (CPU、Vulkan、ROCm 7.14、OpenVINO、SYCL FP32/FP16)、Android、Windows (CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm 7.14) 和 openEuler 的二进制文件。

此更改针对特定 Intel 硬件代数的内存访问模式进行了优化。