llama.cpp प्रोजेक्ट ने संस्करण b9902 जारी किया है, जिसने pull request #25236 के माध्यम से `cross_entropy_loss` और `cross_entropy_loss_back` ऑपरेशन के लिए SYCL समर्थन पेश किया है। इस अपडेट में कोडबेस के भीतर एक फॉर्मेट समस्या के लिए सुधार भी शामिल है।
- macOS/iOS: Apple Silicon (arm64) और Intel (x64) के लिए बाइनरी प्रदान किए गए हैं, साथ ही एक iOS XCFramework; Apple Silicon पर KleidiAI समर्थन अक्षम है।
- Linux: Ubuntu x64, arm64 और s390x CPU के लिए बिल्स उपलब्ध हैं, साथ ही Vulkan, ROCm 7.2, OpenVINO और SYCL (FP32/FP16) वेरिएंट।
- Android: एक arm64 CPU बाइनरी शामिल है।
- Windows: रिलीज x64 और arm64 CPU, OpenCL Adreno, CUDA 12.4 और 13.3, Vulkan, OpenVINO, SYCL और HIP को कवर करती हैं।
- openEuler: x86 (310p, 910b ACL Graph) और aarch64 (310p, 910b ACL Graph) के लिए बिल्स उपलब्ध हैं, जबकि प्रारंभिक pull request को अक्षम के रूप में चिह्नित किया गया है।
यह रिलीज विशिष्ट नुकसान फ़ंक्शनों के लिए SYCL त्वरण सक्षम करके हार्डवेयर संगतता का विस्तार करती है और प्रमुख ऑपरेटिंग सिस्टम और एक्सेलेरेटर बैकएंड पर व्यापक बाइनरी प्रदान करती है।