llama.cpp प्रोजेक्ट ने बिल्ड b10052 जारी किया, जिसमें Hexagon बैकएंड के लिए महत्वपूर्ण आंतरिक बदलाव शामिल हैं। इस अपडेट में डीटी बिट ट्रैकिंग और लेजी फ्लशिंग के साथ L2 कैश हैंडलिंग का पुनर्गठन, मैट्रिक्स गुणन कर्नेल्स में विभिन्न अपडेट्स शामिल हैं।
- hex-mm: सॉल्वर में एक कृत्रिम सीमा को ठीक किया जो act-prep थ्रेड्स की संख्या को सीमित कर रहा था
- hmx-mm: Hvx कार्य को बेहतर तरीके से वितरित करने के लिए टाइल्ड act-प्रोसेसिंग का समर्थन जोड़ा गया
- hex-l2: opbatch स्तर पर L2 फ्लश को अनुकूलित किया और फ्लश को देरी देने या छोड़ने के लिए टेन्सर एलाइज़ को ट्रैक किया
- hex-work: hmx-queue और dma-queue से मेल खाने के लिए विरासत वर्कपूल API को फिर से बनाया गया
- hex-main: dspqueue कॉलबैक्स के लिए एक फॉलबैक मोड पेश किया और उन त्रुटियों का कारण बनने वाले अर्ली वकीप लॉजिक को हटा दिया
इस रिलीज़ में CPU, GPU और विशेष हार्डवेयर बैकएंड्स के लिए macOS, Linux, Windows, Android और iOS के लिए अपडेटेड बाइनरी प्रदान की गई हैं।