llama.cpp 릴리스 b10772는 절대값(ABS) 함수에 대한 지원을 추가하여 Hexagon Tensor Processor(HTP) 백엔드의 F16 단항 연산 범위를 확장합니다.
- 업데이트는 hvx_abs_f16 커널과 dispatchers를 hvx-arith.h에 도입하여 기존 sqr_f16 구조를 반영합니다.
- ABS는 지원되는 HTP_OP_UNARY 연산으로 등록되어 ggml_hexagon_precompute_unary_params가 F16 노드에 대한 커널 매개변수를 채울 수 있습니다.
- 코드베이스는 VTCM/DMA 파이프라인의 중복을 피하기 위해 별도의 execute_op_unary_f32 및 f16 함수를 단일 execute_op_unary 함수로 병합합니다.
- QRD8850(Hexagon v81)에서의 온디바이스 검증은 F16 및 F32 ABS에 대해 CPU 폴백 없이 8/8 테스트가 통과했음을 확인했습니다.
이 변경 사항은 호환되는 Hexagon 하드웨어에서 FP16 정밀도로 효율적인 절대값 연산을 가능하게 하여 모바일 추론을 위한 지원되는 단항 연산의 범위를 확장합니다.