llama.cpp 项目已发布版本 b10425,其中包括将 SYCL 优化移植到融合 gated-delta-net 状态回写副本。

  • 在 Arc Pro B70 硬件上运行 Qwen 3.6 27B 并使用交错 A/B 遍历时,性能提高了约 1.2%。
  • 预填充延迟 (pp2048) 保持不变,而令牌生成速度略有增加。
  • 二进制文件适用于 macOS、Linux、Windows、Android 和 openEuler,支持 CPU、CUDA、Vulkan、ROCm、OpenVINO 和 SYCL 后端。

此版本为各种平台和加速器提供了更新的构建,以支持最新的模型优化。