llama.cpp 项目发布了版本 b9939,引入了对 Metal 后端的 CONV_2D_DW(深度 2D 卷积)的支持。此更新包括用于非连续布局的新通道分块内核,并修复了 CPU 上 CONV_2D_DW 的 F16 内核支持。

  • 为 Metal 后端添加了具有 3D 分发和通道分块内核的 CONV_2D_DW 支持。
  • 修复了 CPU 上 CONV_2D_DW 的 F16 内核支持。
  • 为 CONV_2D_DW 添加了性能测试用例和 F16 测试。
  • 提供了适用于 macOS、iOS、Linux、Android、Windows 和 openEuler 的二进制文件,涵盖包括 CUDA、ROCm、Vulkan 和 SYCL 在内的各种硬件后端。