llama.cpp b9934 настраивает разделение подгруппы в flash_attn_vec

Проект llama.cpp выпустил версию b9934, которая включает настройку параметра разделения подгруппы (d_split) внутри функции flash_attn_vec через ggml-webgpu.

В этом релизе доступны бинарные файлы для macOS Apple Silicon и Intel, Linux Ubuntu с поддержкой CPU, Vulkan, ROCm 7.2, OpenVINO и SYCL, Android arm64, Windows с поддержкой CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и HIP, а также сборки openEuler для x86 и aarch64.

Обновление также включает стандартный пакет пользовательского интерфейса llama.cpp для кроссплатформенного использования.