Проект llama.cpp выпустил версию b11055, которая вводит поддержку функции активации GEGLU_QUICK на DSP Hexagon.
- В релиз включены бинарные файлы для macOS (Apple Silicon и Intel), Linux (Ubuntu x64, arm64, s390x), Windows и Android.
- Ускорение GPU поддерживается через CUDA 12.8/13.3, ROCm 10.0, Vulkan, OpenVINO и SYCL на Linux, а также CUDA, OpenCL, Vulkan, OpenVINO и SYCL на Windows.
- Сборки macOS Apple Silicon с KleidiAI в настоящее время отключены.
- Также указана поддержка openEuler, хотя некоторые конфигурации помечены как отключенные.
Это обновление предоставляет пользователям более широкую совместимость с оборудованием и оптимизированные возможности вывода для устройств на базе Hexagon.