llama.cppプロジェクトは、ggml-webgpuを通じてflash_attn_vec関数内のサブグループ分割(d_split)パラメータを調整したバージョンb9934をリリースしました。
このリリースでは、macOS Apple SiliconおよびIntel向け、Linux Ubuntu向けCPU/Vulkan/ROCm 7.2/OpenVINO/SYCLバックエンド向け、Android arm64向け、Windows向けCPU/OpenCL Adreno/CUDA 12/13/Vulkan/OpenVINO/SYCL/HIPサポート付き、さらにopenEuler x86およびaarch64ビルドのバイナリが提供されています。
このアップデートには、クロスプラットフォーム対応の標準的なllama.cpp UIパッケージも含まれています。