llama.cpp b9937 रिलीज़ CUDA बैकएंड के स्नेक फ्यूजन मैचर में एक गंभीर बग को दूर करती है। पिछली कार्यान्वयन में ऑपरेटैंड टाइप्स के सटीक रूप से मिलने की आवश्यकता होती थी, जिससे F16/BF16 चेन नैवे पथ पर वापस चली जाती थीं या डेटा को गलत पढ़ती थीं।

  • स्नेक फ्यूजन टाइप प्रेडिकेट को ठीक किया गया ताकि `a` और `inv_b` को F32 के रूप में माना जाए, जो CPU और Metal बैकएंड के साथ संगत है।
  • रैखिक कर्नेल पढ़ से मौन मेमोरी क्षति को रोकने के लिए गैर-सतत ऑपरेटैंड पर स्नेक फ्यूजन को अस्वीकार करता है।
  • इस रिलीज़ में macOS Apple Silicon KleidiAI समर्थन को अक्षम कर दिया गया है।

ये परिवर्तन मिश्रित-प्रिसिजन चेन के लिए सही व्यवहार सुनिश्चित करते हैं और गैर-सतत व्यू का उपयोग करते समय डेटा त्रुटियों से रोकते हैं।