Проект llama.cpp выпустил версию b10035, предоставляя бинарные файлы для macOS, Linux, Windows, Android и openEuler для CPU, GPU и специализированных аппаратных бэкендов.

  • Основное техническое изменение — извлечение элементов Q1_0 через __byte_perm в CUDA (PR #25628).
  • Поддержка KleidiAI на macOS/iOS Apple Silicon отключена.
  • Сборки для OpenEuler доступны для архитектур x86 и aarch64, включая поддержку ACL Graph для чипов 910b.
  • Бинарные файлы Windows теперь включают поддержку CUDA 13.3 наряду с существующей CUDA 12.4, а также HIP и SYCL.

Этот релиз обновляет кодовую базу специфичными аппаратными оптимизациями и предоставляет обновленные бинарные файлы для различных операционных систем и типов ускорителей.