ggml 조직은 macOS, iOS, Linux, Windows 및 Android 플랫폼을 위한 사전 빌드된 바이너리를 제공하는 llama.cpp의 b10063 릴리스를 게시했습니다.

  • macOS Apple Silicon (arm64) 및 Intel (x64) 빌드가 제공됩니다.
  • Ubuntu x64 및 arm64 CPU 버전과 함께 Vulkan, ROCm 7.2, OpenVINO 및 SYCL 변형이 포함되어 있습니다.
  • Windows 릴리스는 CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL 및 HIP 백엔드를 지원합니다.
  • 모바일 배포를 위해 Android arm64 (CPU) 바이너리가 제공됩니다.
  • 이 릴리스에는 iOS XCFramework 및 독립형 UI 패키지도 포함되어 있습니다.

이 업데이트를 통해 사용자는 소스 코드를 로컬에서 컴파일할 필요 없이 다양한 하드웨어 아키텍처와 운영 체제에서 llama.cpp를 실행할 수 있습니다.