llama.cpp प्रोजेक्ट ने संस्करण b10670 जारी किया, जिसमें Intel के Xe2 आर्किटेक्चर के लिए एक विशिष्ट अनुकूलन शामिल है। अपडेट क्वांटाइज्ड की-वैल्यू (KV) डिकोड ऑपरेशन को BMG हार्डवेयर के लिए विशेष रूप से TILE बैकएंड की ओर रूट करता है, जबकि अन्य आर्किटेक्चर पर VEC बैकएंड को मान्य होने तक बनाए रखता है।
- क्वांटाइज्ड KV डिकोड अब Xe2 (BMG) पर TILE की ओर निर्देशित है।
- अन्य आर्किटेक्चर मान्यता की प्रतीक्षा में VEC बैकएंड का उपयोग जारी रखते हैं।
- macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm 7.14, OpenVINO, SYCL FP32/FP16), Android, Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm 7.14) और openEuler के लिए बाइनरी प्रदान की गई हैं।
यह परिवर्तन विशिष्ट Intel हार्डवेयर पीढ़ियों के लिए मेमोरी एक्सेस पैटर्न को अनुकूलित करता है।