llama.cppのリリースb10772は、絶対値(ABS)関数のサポートを追加することで、Hexagon Tensor Processor (HTP) バックエンドのF16単項演算のカバレッジを拡張します。
- この更新により、hvx-arith.hにhvx_abs_f16カーネルとディスパッチャが導入され、既存のsqr_f16構造が反映されています。
- ABSはサポートされているHTP_OP_UNARY演算として登録され、ggml_hexagon_precompute_unary_paramsがF16ノードのカーネルパラメータを埋められるようになりました。
- コードベースでは、VTCM/DMAのパイプラインの重複を避けるため、個別のexecute_op_unary_f32とf16関数が単一のexecute_op_unary関数に統合されました。
- QRD8850(Hexagon v81)でのオンデバイス検証により、F16およびF32 ABSで8/8のテストが合格し、CPUフォールバックなしで確認されました。
この変更により、互換性のあるHexagonハードウェア上でFP16精度の絶対値計算を効率的に実行できるようになり、モバイル推論でサポートされる単項演算の範囲が拡大します。