llama.cpp 프로젝트는 Vulkan 백엔드를 위한 GGML_OP_SET_ROWS 실패를 방지하기 위해 구현되지 않은 f16 지원으로 인한 문제를 해결한 빌드 b9894를 출시했습니다.

  • Vulkan 구현은 이제 GGML_OP_SET_ROWS에서 src0 유형을 확인하여 누락된 f16 지원으로 인한 충돌을 피합니다.
  • macOS 빌드는 Apple Silicon (arm64) 및 Intel (x64)에 대해 사용 가능하며, Apple Silicon에서는 KleidiAI가 비활성화됩니다.
  • Linux 바이너리는 CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL 백엔드 across Ubuntu x64, arm64, s390x를 커버합니다.
  • Android 지원에는 arm64 CPU 빌드가 포함됩니다.
  • Windows 바이너리는 CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP 옵션을 제공합니다.
  • ACL Graph가 있는 openEuler x86 및 aarch64 빌드가 사용 가능하며, openEuler x86 (310p)는 비활성화됩니다.

이 릴리스는 특정 유형 확인 문제를 해결하여 Vulkan 추론에 의존하는 사용자에게 안정성을 보장합니다.