llama.cpp 프로젝트는 버전 b9940을 출시하며 `llama-bench`에서 `params.offline` 파라미터의 초기화를 도입했습니다. 이 업데이트에는 여러 운영 체제와 하드웨어 가속기에 걸친 포괄적인 사전 빌드된 바이너리 세트가 동반됩니다.
- macOS Apple Silicon (arm64) 및 Intel (x64) 빌드가 사용 가능하며, KleidiAI 지원은 비활성화되어 있습니다.
- Linux 바이너리에는 Ubuntu x64 및 arm64 CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16가 포함됩니다.
- Windows 릴리스에는 CPU, OpenCL Adreno, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL, HIP 변형이 포함됩니다.
- 모바일 배포를 위해 Android arm64 (CPU) 및 iOS XCFramework 바이너리가 제공됩니다.
- ACL Graph 지원을 갖춘 x86 및 aarch64 아키텍처용 openEuler 빌드가 포함되어 있습니다.
이 릴리스는 로컬 모델 추론을 위한 광범위한 크로스 플랫폼 호환성과 함께 오프라인 파라미터 벤치마킹을 위한 업데이트된 도구 모음을 제공합니다.