llama.cpp 프로젝트가 버전 b9838을 출시하여 광범위한 운영 체제 및 하드웨어 가속기를 위한 사전 빌드된 바이너리를 제공합니다. 이번 릴리스에는 macOS, Linux, Windows, Android, openEuler 전반에 걸친 CPU, GPU(CUDA, Vulkan, ROCm, OpenCL) 및 전용 AI 가속기에 대한 지원이 포함되어 있습니다.

  • macOS 빌드는 Apple Silicon(arm64) 및 Intel(x64)에서 사용 가능하며, KleidiAI 지원은 비활성화됩니다.
  • Linux 바이너리는 Ubuntu x64, arm64, s390x 아키텍처를 위해 제공되며, CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL 변형 버전을 포함합니다.
  • Windows 릴리스에는 x64 및 arm64용 CPU, CUDA 12/13, Vulkan, OpenCL Adreno, OpenVINO, SYCL, HIP 빌드가 포함되어 있습니다.
  • Android 지원은 arm64 CPU 빌드에 한정됩니다.
  • openEuler 빌드는 ACL Graph를 사용하여 x86 및 aarch64 아키텍처에서 사용 가능하며, 표준 openEuler 지원은 비활성화됩니다.

이번 릴리스로 사용자는 소스에서 컴파일하지 않고도 다양한 하드웨어 구성에 llama.cpp를 배포할 수 있습니다.