llama.cpp b10042, Volta+Turing에서 CUDA 그래프 활성화

llama.cpp 프로젝트는 Volta 및 Turing 아키텍처 GPU에서 CUDA 그래프 활성화를 지원하도록 하는 버전 b10042를 출시했습니다.

• 이번 릴리스에는 macOS(Apple Silicon 및 Intel), Linux(Ubuntu x64, arm64, s390x), Android(arm64), Windows(CPU, OpenCL, Vulkan, ROCm, SYCL, HIP) 및 openEuler용 바이너리가 포함되어 있습니다.
• CUDA 지원은 Windows x64용 CUDA 12.4 및 CUDA 13.3 DLL을 통해 제공됩니다.
• 이 버전에서는 KleidiAI가 있는 macOS Apple Silicon 빌드가 명시적으로 비활성화되었습니다.
• openEuler 지원에는 x86 및 aarch64 변형이 포함되며, 910b 변형의 경우 ACL Graph가 활성화되어 있습니다.

이 업데이트를 통해 이전 NVIDIA GPU 아키텍처를 사용하는 사용자는 잠재적 성능 향상을 위해 CUDA 그래프를 활용할 수 있게 됩니다.