llama.cpp प्रोजेक्ट ने बिल्ड b10545 जारी किया, जो Metal बैकएंड के टेंसर API मैट्रिक्स गुणन कर्नेल में एक गंभीर बग को संबोधित करता है। अपडेट उन टेंसरों को संसाधित करते समय अनिश्चित व्यवहार और क्षतिग्रस्त परिणामों को रोकता है जहाँ K आयाम 32 का गुणज नहीं है।
- matmul2d ऑप अब स्थिर टाइल आकार के बजाय K के लिए dynamic_extent का उपयोग करता है।
- प्रत्येक पुनरावृत्ति पर ऑपरेंड टेंसर व्यू को शेष वैध K रेंज तक सीमित किया जाता है।
- इस बदलाव ने उन बाउंड्स से बाहर पढ़ने को समाप्त कर दिया जो पहले NaN मान या डेटा क्षति का कारण बनते थे।
- असंरेखित K पथ का अभ्यास करने और ठीक होने की पुष्टि करने के लिए टेस्ट केस जोड़े गए हैं।
यह ठीक करना Apple Silicon डिवाइस पर गैर-संरेखित मैट्रिक्स आयामों वाले मॉडल्स के लिए संख्यात्मक स्थिरता सुनिश्चित करता है, जिससे निष्पादन के दौरान मौन त्रुटियाँ रोकती हैं।