Выпуск llama.cpp b10021 включает уменьшение разбиения графа для DeepSeek V4

Проект llama.cpp выпустил версию b10021, которая включает изменение для уменьшения количества разбиений графа для модели DeepSeek V4.

Это обновление предоставляет предварительно собранные бинарные файлы и фреймворки для нескольких платформ и конфигураций оборудования. Сборки для macOS доступны для Apple Silicon (arm64) и Intel (x64), а также iOS XCFramework. Поддержка Linux охватывает архитектуры Ubuntu x64, arm64 и s390x с использованием CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32 и SYCL FP16 бэкендов. Также включены сборки Android arm64 (CPU).

Пользователи Windows могут скачать сборки для процессоров x64 и arm64, а также поддержку GPU через OpenCL Adreno, CUDA 12.4, CUDA 13.3, Vulkan, OpenVINO, SYCL и HIP. Дополнительно предоставлены сборки openEuler для архитектур x86 и aarch64 с использованием ACL Graph.