llama.cpp प्रोजेक्ट ने b10017 बिल्ड जारी किया, जिसमें SYCL बैकएंड के लिए एक विशिष्ट अपडेट शामिल है। इस बदलाव से एकीकृत साझा मेमोरी (USM) सिस्टम आवंटनों के लिए न्यूनतम बफ़र आकार सीमा को 1 GiB से बढ़ाकर 4 GiB कर दिया गया है।
- यह समायोजन वास्तविक दुनिया के प्रयोगों पर आधारित है जिसमें उपलब्ध VRAM से बड़े मॉडल वजन के साथ डिवाइस मेमोरी को ओवरकमिट करना शामिल है, जैसे कि B70 पर Qwen3.5-35B-A3B-Q8 चलाना।
- USM सिस्टम आवंटनों को बेहतर ट्रैक करने के लिए एक डीबग संदेश भी जोड़ा गया था।
- रिलीज़ में macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) और openEuler के लिए बाइनरी फ़ाइलें प्रदान की गई हैं।
संशोधन का उद्देश्य SYCL-संगत हार्डवेयर पर उपलब्ध VRAM से अधिक बड़े मॉडलों को संभालते समय स्थिरता में सुधार करना है।