llama.cpp 프로젝트는 AMD mi50 GPU를 대상으로 Vulkan의 `mul_mat_vecq` 연산에 대한 최적화를 포함하는 버전 b9814를 출시했습니다. 이 업데이트에는 여러 운영 체제와 하드웨어 아키텍처 전반에 걸친 포괄적인 사전 빌드된 바이너리 세트가 동반됩니다.

  • macOS Apple Silicon (arm64) 및 Intel (x64) 빌드가 제공되며, Apple Silicon의 경우 KleidiAI 지원이 비활성화되었습니다.
  • Linux 바이너리는 Ubuntu x64 및 arm64 CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16 변형을 커버합니다.
  • Windows 릴리스에는 CPU, OpenCL Adreno, CUDA 12.4 및 13.3, Vulkan, OpenVINO, SYCL, HIP 백엔드가 포함됩니다.
  • Android arm64 (CPU)와 310p 및 910b 칩용 openEuler x86/aarch64 빌드가 제공되며, openEuler x86 표준 빌드는 비활성화되었습니다.

이 릴리스를 통해 사용자는 AMD GPU에 대한 특정 최적화를 포함하여 다양한 하드웨어 구성에서 llama.cpp를 실행할 수 있습니다.