llama.cppプロジェクトはバージョンb9939をリリースし、MetalバックエンドでCONV_2D_DW(depthwise 2D convolution)のサポートを導入しました。このアップデートには、非連続なレイアウト用の新しいchannel-tiledカーネルと、CPU上のCONV_2D_DWに対するF16カーネルサポートの修正が含まれます。

  • Metalバックエンドに3Dディスパッチとchannel-tiledカーネルを用いたCONV_2D_DWサポートを追加。
  • CPU上のCONV_2D_DWに対するF16カーネルサポートを修正。
  • CONV_2D_DWの性能テストケースとF16テストを追加。
  • CUDA、ROCm、Vulkan、SYCLを含む様々なハードウェアバックエンド向けに、macOS、iOS、Linux、Android、Windows、openEuler向けのバイナリを提供。