llama.cpp 프로젝트는 ggml 라이브러리와의 동기화를 포함하는 버전 b9816을 출시했습니다. 이 업데이트는 macOS, iOS, Linux, Windows, Android 및 openEuler 플랫폼을 위한 사전 빌드된 바이너리를 제공합니다.

  • macOS Apple Silicon (arm64) 및 Intel (x64) 빌드가 제공되며, KleidiAI 지원은 비활성화됩니다.
  • Linux 바이너리는 Ubuntu x64 및 arm64 CPU, Vulkan, ROCm 7.2, OpenVINO 및 SYCL FP32/FP16 변형을 포함합니다.
  • Windows 릴리스에는 CPU, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL, HIP 및 OpenCL Adreno 옵션이 포함되어 있습니다.
  • 모바일 배포를 위해 Android arm64 (CPU) 및 iOS XCFramework 바이너리가 제공됩니다.
  • openEuler 지원에는 ACL Graph가 포함된 x86 및 aarch64 빌드가 포함되지만, 표준 openEuler은 비활성화됩니다.

이 릴리스는 최신 ggml 백엔드를 사용하여 다양한 하드웨어 아키텍처와 운영 체제에서 llama.cpp를 실행할 수 있도록 합니다.