llama.cpp 项目发布了版本 b9891,为 Metal 后端引入了新的 `col2im_1d` 操作。此添加反映了 CPU 和 CUDA 路径,支持 f32、f16 和 bf16 数据类型。

  • Metal 内核实现了带有 F32 累加器、线性索引和无原子操作的 gather 操作。
  • 添加了支持检查以确保 `GGML_OP_COL2IM_1D` 的目标连续性和类型匹配。
  • 二进制文件适用于 macOS (Apple Silicon 和 Intel)、iOS、Linux (CPU、Vulkan、ROCm、OpenVINO、SYCL)、Android、Windows (CPU、OpenCL、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP) 和 openEuler。

此发布版本使得通过 Metal 在 Apple Silicon 设备上使用 `col2im_1d` 操作成为可能。