Проект llama.cpp выпустил версию b9814, которая включает оптимизацию операции `mul_mat_vecq` в Vulkan, специально направленную на графический процессор AMD mi50. Это обновление сопровождается полным набором предварительно собранных бинарных файлов для нескольких операционных систем и аппаратных архитектур.
- Доступны сборки macOS для Apple Silicon (arm64) и Intel (x64), при этом поддержка KleidiAI отключена для Apple Silicon.
- Бинарные файлы Linux охватывают Ubuntu x64 и arm64 CPU, Vulkan, ROCm 7.2, OpenVINO и варианты SYCL FP32/FP16.
- Выпуски для Windows включают бэкенды CPU, OpenCL Adreno, CUDA 12.4 и 13.3, Vulkan, OpenVINO, SYCL и HIP.
- Предоставлены сборки Android arm64 (CPU) и openEuler x86/aarch64 для чипов 310p и 910b, при этом стандартная сборка openEuler x86 отключена.
Этот выпуск позволяет пользователям запускать llama.cpp на широком спектре аппаратных конфигураций, включая специфические оптимизации для графических процессоров AMD через Vulkan.