llama.cpp का रिलीज़ b10772 निरपेक्ष मान (ABS) फ़ंक्शन के लिए समर्थन जोड़कर Hexagon टेंसर प्रोसेसर (HTP) बैकएंड की F16 यूनेरी ऑपरेशन कवरेज को बढ़ाता है।

  • अपडेट में hvx_abs_f16 kernels और dispatchers को hvx-arith.h में पेश किया गया है, जो मौजूदा sqr_f16 संरचना का अनुसरण करता है।
  • ABS को एक समर्थित HTP_OP_UNARY ऑपरेशन के रूप में रजिस्टर किया गया है, जिससे ggml_hexagon_precompute_unary_params F16 नोड्स के लिए kernel पैरामीटर भर सकता है।
  • VTCM/DMA प्लंबिंग की दोहराव से बचने के लिए कोडबेस में अलग execute_op_unary_f32 और f16 फ़ंक्शंस को एक single execute_op_unary फ़ंक्शन में मर्ज कर दिया गया है।
  • QRD8850 (Hexagon v81) पर डिवाइस-साइड सत्यापन ने F16 और F32 ABS के लिए 8/8 पासिंग टेस्ट की पुष्टि की, बिना किसी CPU फॉलबैक के।

यह बदलाव संगत Hexagon हार्डवेयर पर FP16 प्रिसिजन में कुशल निरपेक्ष मान गणनाओं को सक्षम बनाता है, मोबाइल इनफरेंस के लिए समर्थित यूनेरी ऑपरेशंस की श्रृंखला का विस्तार करता है।