llama.cpp 项目发布了版本 b10410,其中包含对 SYCL 后端的代码更改。此更新移除了 GEMM non-oneDNN 路径中的单独 fp32 类型提升,改为使用自动 fp16 提升。
- 该版本为 macOS(Apple Silicon 和 Intel)、Linux(Ubuntu x64、arm64、s390x、Vulkan、OpenVINO、SYCL FP32/FP16)、Android、Windows(CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm 7.14)和 openEuler 提供二进制文件。
- 此版本中禁用了 macOS Apple Silicon KleidiAI 支持。
- Ubuntu x64 ROCm 7.14 支持也已禁用。
- UI 组件可作为单独下载获取。
此更新通过依赖自动类型提升而非显式处理,简化了 SYCL GEMM 实现。