Проект llama.cpp выпустил сборку b9984, которая включает изменение для добавления поддержки квантования Q2_K в путь перестановки DMMV через pull request #25064.

  • macOS/iOS: Бинарные файлы предоставлены для Apple Silicon (arm64), Intel (x64) и iOS XCFramework; KleidiAI отключен на Apple Silicon.
  • Linux: Доступны сборки для Ubuntu x64, arm64 и s390x CPU, а также бэкендов Vulkan, ROCm 7.2, OpenVINO и SYCL (FP32/FP16).
  • Android: Предоставлен бинарный файл CPU для arm64.
  • Windows: Выпущены бинарные файлы для процессоров x64 и arm64, OpenCL Adreno, CUDA 12.4 и 13.3, Vulkan, OpenVINO, SYCL и HIP.
  • openEuler: Включена поддержка x86 (310p, 910b) и aarch64 (310p, 910b) с ACL Graph, хотя основной pull request помечен как отключенный.

Это обновление предоставляет обновленные бинарные файлы для основных операционных систем и аппаратных ускорителей, обеспечивая квантование Q2_K в пути перестановки DMMV для совместимых сборок SYCL.