Релиз llama.cpp b10772 расширяет покрытие унарных операций F16 бэкенда Hexagon Tensor Processor (HTP) за счёт добавления поддержки функции абсолютного значения (ABS).

  • Обновление вводит ядра и диспетчеры hvx_abs_f16 в файле hvx-arith.h, повторяя структуру существующего sqr_f16.
  • ABS зарегистрирован как поддерживаемая операция HTP_OP_UNARY, что позволяет функции ggml_hexagon_precompute_unary_params заполнять параметры ядер для узлов F16.
  • Кодовая база объединяет отдельные функции execute_op_unary_f32 и f16 в одну функцию execute_op_unary, чтобы избежать дублирования кода работы с VTCM/DMA.
  • Проверка на устройстве QRD8850 (Hexagon v81) подтвердила прохождение 8 из 8 тестов для ABS операций F16 и F32 без возврата к CPU.

Это изменение обеспечивает эффективные вычисления абсолютного значения в точности FP16 на совместимом оборудовании Hexagon, расширяя диапазон поддерживаемых унарных операций для мобильных выводов.