llama.cpp 项目已发布版本 b10425,其中包括将 SYCL 优化移植到融合 gated-delta-net 状态回写副本。
- 在 Arc Pro B70 硬件上运行 Qwen 3.6 27B 并使用交错 A/B 遍历时,性能提高了约 1.2%。
- 预填充延迟 (pp2048) 保持不变,而令牌生成速度略有增加。
- 二进制文件适用于 macOS、Linux、Windows、Android 和 openEuler,支持 CPU、CUDA、Vulkan、ROCm、OpenVINO 和 SYCL 后端。
此版本为各种平台和加速器提供了更新的构建,以支持最新的模型优化。