llama.cpp 项目发布了 b10000 版本,其中包含对 ggml 后端的重大更新。此更改统一了所有卷积操作中的 im2col 目标类型和转换逻辑,使 im2col_f16 等函数能够接受任何内核类型。

  • 统一了 ggml 中所有卷积操作的 im2col dst_type
  • 更新了 ggml/src/ggml.c 以标准化转换逻辑
  • 修复了 im2col_f16 以接受任何内核类型
  • macOS/iOS 二进制文件适用于 Apple Silicon、Intel 和 iOS XCFramework
  • 提供了 Linux 构建版本,支持 Ubuntu x64、arm64、s390x、Vulkan、ROCm 7.2、OpenVINO 和 SYCL
  • 包含 Android arm64 (CPU) 二进制文件
  • Windows 二进制文件支持 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP
  • openEuler 构建版本适用于 x86 和 aarch64,并支持 ACL Graph
  • UI 二进制包也已发布