llama.cpp b9913 добавляет квантование Q2_0 и бэкенд для CPU

Проект llama.cpp выпустил версию b9913, внедряя квантование Q2_0 с новым определением типа и поддержкой бэкенда для CPU. Это обновление доступно на нескольких платформах, включая macOS, Linux, Windows, Android и openEuler.

• Добавлено определение типа квантования Q2_0 и соответствующая реализация бэкенда для CPU.
• Отключена поддержка KleidiAI для сборок Apple Silicon под macOS.
• Предоставлены двоичные файлы для различных архитектур и бэкендов, включая CUDA 12/13, Vulkan, ROCm, OpenVINO, SYCL и HIP.
• Выпущены двоичные файлы пользовательского интерфейса вместе с обновлениями основного движка.