llama.cpp परियोजना ने संस्करण b9915 जारी किया, जिसमें CPU f16-to-f16 GGML_OP_SETROWS ऑपरेशन के लिए समर्थन पेश किया गया है। इस अपडेट में इस ऑपरेशन के लिए अनुपलब्ध प्रकार जाँचें भी शामिल हैं और f32 तथा f16 कंप्यूट फॉरवर्ड फंक्शंस को एकल कार्यान्वयन में विलीन कर दिया गया है।
- ggml ने अतिरिक्त प्रकार जाँचों के साथ CPU f16->f16 GGML_OP_SETROWS समर्थन जोड़ा
- ggml_compute_forward_set_rows_f32() और ggml_compute_forward_set_rows_f16() को ggml_compute_forward_set_rows_impl() में विलीन किया गया
- एसेर्शन को GGML_ASSERT() से बदला गया
- macOS Apple Silicon (arm64), macOS Intel (x64), और iOS XCFramework बाइनरी प्रदान की गई हैं
- Linux बिल्ड्स में Ubuntu x64, arm64, s390x CPU, Vulkan, ROCm 7.2, OpenVINO, और SYCL FP32/FP16 वेरिएंट शामिल हैं
- Android arm64 (CPU) बाइनरी उपलब्ध हैं
- Windows बिल्ड्स x64 और arm64 CPU, OpenCL Adreno, CUDA 12.4 और 13.3, Vulkan, OpenVINO, SYCL, और HIP को कवर करते हैं
- openEuler 910b चिप्स के लिए ACL Graph के साथ x86 और aarch64 का समर्थन करता है
यह रिलीज़ नए सेट रो फंक्शनलिटी की आवश्यकता वाले उपयोगकर्ताओं के लिए कई प्लेटफॉर्म और हार्डवेयर एक्सेलेरेटर पर अद्यतन बाइनरी प्रदान करती है।