llama.cpp प्रोजेक्ट ने बिल्ड b10721 जारी किया है, जिसमें WebGPU बैकएंड के लिए एक महत्वपूर्ण सुधार और विंडोज़ पर हार्डवेयर समर्थन का विस्तार शामिल है।

  • WebGPU `ggml_backend_tensor_get()` कार्यान्वयन में क्रैश ठीक किया गया जब ऑफसेट 4 का गुणज नहीं था।
  • CUDA 13.4 के साथ Windows arm64 के लिए पूर्वावलोकन समर्थन जोड़ा गया।
  • विभिन्न CPU और GPU बैकएंड्स के लिए macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, और Windows के लिए बाइनरी प्रदान की गई हैं।

यह रिलीज गैर-संरेखित मेमोरी ऑफसेट वाले WebGPU उपयोगकर्ताओं के लिए स्थिरता सुनिश्चित करती है और विंडोज़ पर नई CUDA आर्किटेक्चर्स के लिए संगतता का विस्तार करती है।