llama.cpp 프로젝트는 Asahi Linux를 위한 Vulkan 백엔드 최적화를 포함하는 버전 b9846을 출시했습니다. 이 업데이트는 리눅스에서 실행 중인 Apple Silicon 하드웨어의 호환성과 성능을 개선하기 위해 행렬 곱의 블록 크기 루프를 롤백합니다.
- Vulkan: 직접 SPIR-V 편집을 통해 Asahi Linux용 matmul의 BK 루프를 롤백합니다.
- Vulkan: 이전 BK-루프 언롤링 변경 사항을 되돌리고 인라인 주석을 수정합니다.
- macOS/iOS: KleidiAI가 비활성화된 Apple Silicon(arm64) 및 Intel(x64)용 바이너리를 제공합니다.
- Linux: CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL 백엔드 전반에 걸쳐 Ubuntu x64, arm64, s390x용 빌드를 제공합니다.
- Windows: x64 및 arm64용 CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP 빌드를 포함합니다.
- Android: arm64 CPU 바이너리를 출시합니다.
이 릴리스는 Asahi Linux에서 안정적인 Vulkan 지원을 보장하면서 광범위한 하드웨어 아키텍처와 가속화 라이브러리에 대한 포괄적인 사전 빌드 바이너리를 제공합니다.