llama.cpp 项目发布了版本 b9985,引入了针对 SYCL 的融合 top-k Mixture of Experts (MoE) 实现。此更新通过移动融合分发逻辑并通过 GGML_SYCL_ENABLE_FUSION 环境变量暴露它来解决审查反馈。
- 为 SYCL 后端添加了融合 top-k MoE 支持。
- 通过 GGML_SYCL_ENABLE_FUSION 环境变量配置了融合分发控制。
- 更新了启动日志以打印 GGML_SYCL_ENABLE_FUSION 状态,类似于其他环境变量。
- 禁用了 macOS Apple Silicon 构建的 KleidiAI 支持。
该版本为 macOS、Linux、Windows、Android 和 openEuler 提供了二进制文件,涵盖 CPU、GPU (CUDA, Vulkan, ROCm, OpenCL) 和 AI 加速器后端。