Проект llama.cpp выпустил версию b11260, добавляющую поддержку функций активации FP32 GELU_ERF и GEGLU_ERF в бэкенде Hexagon. Это обновление также включает оптимизации для снижения нагрузки на регистры в соответствующих ядрах.

  • Добавлена поддержка FP32 GELU_ERF и GEGLU_ERF для Hexagon.
  • Снижена нагрузка на регистры в ядрах hexagon.
  • Доступны бинарные файлы для macOS Apple Silicon, Intel и iOS.
  • Сборки Linux охватывают платформы CPU, Vulkan, CUDA 12/13, ROCm 10.0, OpenVINO, SYCL и Snapdragon.
  • Сборки Android arm64 включают поддержку NPU Snapdragon Hexagon.
  • Выпуски для Windows предоставляют варианты CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и ROCm 10.0.

Это расширение аппаратной совместимости для конкретных функций активации и повышение эффективности на поддерживаемых ускорителях.