llama.cpp 프로젝트는 M2 아키텍처를 위한 빠른 벡터 (fa-vec) 튜닝을 추가하는 풀 리퀘스트를 포함하는 빌드 b10688을 출시했습니다.
이 업데이트는 여러 플랫폼과 하드웨어 구성에 걸쳐 바이너리와 프레임워크를 제공합니다. macOS 빌드는 Apple Silicon 및 Intel에서 사용 가능하며, iOS 사용자는 XCFramework에 접근할 수 있습니다. Linux 지원은 x64, arm64 및 s390x 아키텍처에 대한 CPU, Vulkan, ROCm 7.14, OpenVINO 및 SYCL 변형을 포함합니다. Windows 릴리스에는 x64 및 arm64 모두에 대한 CPU, OpenCL Adreno, Vulkan, ROCm 7.14, OpenVINO, SYCL 및 CUDA 12/13 지원이 포함되어 있습니다. Android arm64 바이너리도 제공됩니다.
이 릴리스를 통해 사용자는 최신 빌드 아티팩트를 사용하여 광범위한 장치와 가속기에서 llama.cpp를 실행할 수 있습니다.