llama.cpp 프로젝트가 버전 b9939를 출시하여 Metal 백엔드에서 CONV_2D_DW(depthwise 2D convolution) 지원을 도입했습니다. 이 업데이트에는 비연속 레이아웃을 위한 새로운 channel-tiled 커널과 CPU에서의 CONV_2D_DW에 대한 F16 커널 지원 수정이 포함됩니다.

  • 3D 디스패치와 channel-tiled 커널을 사용하여 Metal 백엔드에 CONV_2D_DW 지원을 추가했습니다.
  • CPU에서의 CONV_2D_DW에 대한 F16 커널 지원을 수정했습니다.
  • CONV_2D_DW에 대한 성능 테스트 케이스 및 F16 테스트를 추가했습니다.
  • CUDA, ROCm, Vulkan, SYCL을 포함한 다양한 하드웨어 백엔드에 대해 macOS, iOS, Linux, Android, Windows, openEuler용 바이너리를 제공했습니다.