llama.cpp b9969 исправляет сбои Vulkan matmul на Adreno для длинных промптов

Проект llama.cpp выпустил версию b9969, устраняющую критическую проблему стабильности в бэкенде Vulkan. Обновление перенаправляет большие матричные умножения на средние тайлы на GPU Adreno, решая сбои, возникавшие при использовании сетей с квантованием q4_0 и длинных промптов из-за недостатка общей памяти.

• Исправляет поломку llama-cli для длинных промптов за счёт оптимизации использования общей памяти в Vulkan matmul.
• Удаляет неиспользуемый код устройств Adreno и обновляет реализацию малых матричных умножений конвейера.
• Отключает поддержку KleidiAI для сборок macOS Apple Silicon.
• Предоставляет бинарные файлы для Ubuntu (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Windows (CPU, CUDA 12/13, Vulkan, HIP, SYCL), macOS, iOS, Android и openEuler.

Этот релиз обеспечивает стабильный вывод на устройствах Adreno с большими контекстными окнами и сохраняет совместимость в широком диапазоне аппаратных бэкендов.