llama.cpp परियोजना ने संस्करण b10418 जारी किया, जिसमें SYCL में होस्ट-से-डिवाइस मेमोरी एक्सेस को बेहतर बनाने के लिए होस्ट पिंडेड मेमोरी का समर्थन शामिल है। यह अपडेट बैकएंड कार्यान्वयन के भीतर थ्रेड-सुरक्षा समस्याओं को दूर करता है।
- होस्ट पिंडेड मेमोरी के लिए ggml_backend_sycl_host_buffer_type_get_max_size समर्थन जोड़ा गया है।
- SYCL बैकएंड में एक थ्रेड-सुरक्षित समस्या को ठीक किया गया है।
- macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL FP32/FP16), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm 7.14) और openEuler के लिए बाइनरी शामिल हैं।
- सभी प्लेटफ़ॉर्म के लिए एक एकीकृत UI पैकेज प्रदान करता है।
रिलीज़ SYCL-संगत हार्डवेयर के लिए होस्ट और डिवाइस मेमोरी के बीच तेज़ डेटा स्थानांतरण सक्षम बनाती है, जबकि सुधारी गई थ्रेड सुरक्षा के माध्यम से स्थिरता को सुनिश्चित करती है।