llama.cpp प्रोजेक्ट ने संस्करण b10057 जारी किया है, जिसमें कई प्लेटफार्मों पर मानक बाइनरी वितरण के साथ SYCL बैकएंड के लिए कई बग फिक्स शामिल हैं।

  • SYCL में जब K_QUANTS_PER_ITERATION 1 होता है तो गलत पंक्ति गणना को ठीक किया।
  • Q5_K नॉन-रीऑर्डर्ड kernel को K_QUANTS_PER_ITERATION का उपयोग करने के लिए अपडेट किया।
  • रीऑर्डर्ड q5_k kernel में आधी प्रक्रिया की अनुपस्थित प्रोसेसिंग जोड़ी गई।
  • SYCL कोड में संभावित off-by-one त्रुटि और अनुपस्थित पंक्ति > nrows जाँच को हल किया।

इस रिलीज़ में macOS, Linux, Windows, Android और iOS के लिए अपडेटेड binaries प्रदान की गई हैं, जो CPU, CUDA, Vulkan, ROCm, OpenVINO और SYCL सहित विभिन्न हार्डवेयर बैकएंड का समर्थन करती हैं।