llama.cpp 项目发布了 b10000 版本,其中包含对 ggml 后端的重大更新。此更改统一了所有卷积操作中的 im2col 目标类型和转换逻辑,使 im2col_f16 等函数能够接受任何内核类型。
- 统一了 ggml 中所有卷积操作的 im2col dst_type
- 更新了 ggml/src/ggml.c 以标准化转换逻辑
- 修复了 im2col_f16 以接受任何内核类型
- macOS/iOS 二进制文件适用于 Apple Silicon、Intel 和 iOS XCFramework
- 提供了 Linux 构建版本,支持 Ubuntu x64、arm64、s390x、Vulkan、ROCm 7.2、OpenVINO 和 SYCL
- 包含 Android arm64 (CPU) 二进制文件
- Windows 二进制文件支持 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP
- openEuler 构建版本适用于 x86 和 aarch64,并支持 ACL Graph
- UI 二进制包也已发布