llama.cpp b10171 रिलीज़ ने एड्रेनो KQ/KQV इमेज कर्नेल्स में एक महत्वपूर्ण बग को ठीक किया, जिसके कारण मल्टी-सीक्वेंस बैच के दौरान गार्बेज आउटपुट उत्पन्न हो रहा था। यह समस्या इसलिए उत्पन्न हुई क्योंकि इन कर्नेल्स ने डायमेंशन 3 को नजरअंदाज कर दिया, जिससे मल्टीपल स्ट्रीम्स का उपयोग करते समय यूनिफाइड KV कैश के साथ गलत रीड्स हो रहे थे।
- ne03/ne13 > 1 वाले टेंसर को सामान्य पथ पर भेजता है जो डायम 3 को सही ढंग से संभालता है।
- सब-बफर्स बनाते समय view_offs का सम्मान करता है ताकि चुपचाप गलत रीड्स से बचा जा सके।
- एड्रेनो 740 और 840 डिवाइसों पर प्लेक्सिटी स्कोर को ठीक करता है, Llama-3.2-1B-Instruct Q4_0 के लिए PPL को ~1940 से घटाकर ~15.6 कर देता है।
- CPU, GPU और विशेष बैकएंड्स पर macOS, iOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं।
यह फिक्स एड्रेनो डिवाइसों पर सही इनफरेंस रिजल्ट्स सुनिश्चित करता है जहाँ फ्लैश अटेंशन अक्षम या अनुपलब्ध है, जिससे मल्टी-स्लॉट सर्वर कॉन्फ़िगरेशन में प्रदर्शन में गिरावट को रोका जाता है।