llama.cpp b10042 включает поддержку CUDA-графов для архитектур Volta и Turing

Проект llama.cpp выпустил версию b10042, которая добавляет поддержку включения CUDA-графов на графических процессорах архитектуры Volta и Turing.

• В релиз включены бинарные файлы для macOS (Apple Silicon и Intel), Linux (Ubuntu x64, arm64, s390x), Android (arm64), Windows (CPU, OpenCL, Vulkan, ROCm, SYCL, HIP) и openEuler.
• Поддержка CUDA обеспечивается через DLL CUDA 12.4 и CUDA 13.3 для Windows x64.
• Сборки macOS Apple Silicon с KleidiAI в этой версии явно отключены.
• Поддержка openEuler включает варианты x86 и aarch64, при этом для варианта 910b включен ACL Graph.

Это обновление позволяет пользователям старых архитектур графических процессоров NVIDIA использовать CUDA-графы для потенциального повышения производительности.