llama.cpp प्रोजेक्ट ने संस्करण b10408 जारी किया, जिसमें Intel GPUs के लिए DMMV Q3_K ESIMD kernel पेश किया गया है। इस रिलीज़ में नए Q4_K और Q6_K ESIMD kernels भी शामिल हैं और कोडबेस को पुनर्लेखित किया गया है ताकि ESIMD का नियंत्रण कंपाइल टाइम के बजाय रनटाइम पर किया जा सके।
- DMMV Q3_K, Q4_K, और Q6_K ESIMD kernels जोड़े गए हैं।
- ESIMD का नियंत्रण कंपाइल-टाइम कॉन्फ़िगरेशन से रनटाइम पर स्थानांतरित किया गया है।
- उपलब्ध होने पर ESIMD को डिफ़ॉल्ट रूप से उपयोग करता है और इस डिफ़ॉल्ट व्यवहार के साथ संभावित त्रुटियों को ठीक करता है।
- ESIMD kernels के लिए स्पष्ट अनरोल निर्देश शामिल हैं और kernel कोड को साफ किया गया है।
अपडेट में CPU, CUDA, Vulkan, OpenCL, ROCm, और SYCL बैकएंड्स के लिए macOS, Linux, Windows, Android, और openEuler के लिए बाइनरी प्रदान की गई हैं।