llama.cpp प्रोजेक्ट ने बिल्ड b11001 जारी किया है, जिसमें RISC-V आर्किटेक्चर पर int16 डेटा हैंडल करने वाले `permute_transpose_impl` फ़ंक्शन के लिए एक महत्वपूर्ण मरम्मत शामिल है।

  • पिछले संस्करण में 16-बिट पूर्णांकों के लिए `rvv_transposed_s32_mn_to_nm` का गलत कॉल किया गया था, जिससे ट्रांसपोज़ परिणाम क्षतिग्रस्त हो गए जहाँ 4x4 मैट्रिक्स में 16 स्थानों में से 14 गलत थे।
  • इस मरम्मत ने त्रुटिपूर्ण कॉल को सही `rvv_transposed_s16_mn_to_nm` फ़ंक्शन से बदल दिया है, जो पहले से ही उपलब्ध था और फ्लैश एटेंशन में अन्यत्र उपयोग किया जाता था।
  • मैकओएस (एप्पल सिلىकॉन और इंटेल), iOS, लिनक्स (CPU, Vulkan, CUDA 12/13, ROCm 10.0, OpenVINO, SYCL), विंडोज़ (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm 10.0), एंड्रॉइड और openEuler के लिए बाइनरी प्रदान की गई हैं।

यह अपडेट RISC-V हार्डवेयर पर int16 ऑपरेशन के लिए सही डेटा ट्रांसपोज़ सुनिश्चित करता है, जिससे प्रभावित मॉडल में गणना त्रुटियों से बचा जाता है।