llama.cpp b10034 वजन के क्षरण को रोकने के लिए MoE kernels से Adreno A7x को बाहर करता है

llama.cpp b10034 रिलीज़ एक गंभीर समस्या को संबोधित करती है जहाँ Adreno A7x डिवाइसों के लिए कंपाइलर repack kernels को गलत तरीके से कंपाइल करते हैं, जिससे Mixture of Experts (MoE) मॉडलों में वजन क्षतिग्रस्त हो जाते हैं और बर्बाद आउटपुट मिलता है। इसे हल करने के लिए, अपडेट इन विशिष्ट MoE kernels का उपयोग करने से Adreno A7x डिवाइसों को बाहर करता है।

• कंपाइलर गलत कंपाइलेशन समस्याओं के कारण Adreno A7x को Adreno MoE kernels का उपयोग करने से बाहर करता है।
• स्थिरता सुनिश्चित करने के लिए MoE वजन repack से A6x और अज्ञात Adreno GPUs को भी बाहर करता है।
• macOS Apple Silicon बिल्ड्स के लिए KleidiAI समर्थन को अक्षम करता है।
• macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) और openEuler के लिए बाइनरी प्रदान करता है।

यह बदलाव प्रभावित Adreno हार्डवेयर पर मॉडल आउटपुट क्षरण को रोकता है, इन GPUs वाले उपयोगकर्ताओं के लिए विश्वसनीय इन्फरेंस सुनिश्चित करता है।