llama.cpp release b9773 вводит поддержку Vulkan для GET_ROWS_BACK и предоставляет бинарные сборки для macOS, Linux, Android, Windows и openEuler. Новые версии включают варианты CPU, Vulkan, ROCm, OpenVINO и SYCL на нескольких архитектурах, а также отдельный пакет интерфейса.