llama.cpp संस्करण b9690 में एक rope_back ऑपरेटर पेश किया गया है, जिसे मौजूदा rope kernels को पुन: उपयोग करके और फॉरवर्ड/बैकवर्ड रोटेशन टॉगल करने के लिए एक फ़ंक्शन कॉन्स्टेंट का उपयोग करके लागू किया गया है। इस रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए प्रीबिल्ट बाइनरी शामिल हैं, जो कई आर्किटेक्चर और Vulkan, CUDA, ROCm, OpenVINO और SYCL सहित हार्डवेयर एक्सेलरेशन विकल्पों पर उपलब्ध हैं।
llama.cpp ने rope_back ऑपरेटर और क्रॉस-प्लेटफ़ॉर्म बाइनरी के साथ b9690 जारी किया
अनुवादित English → हिन्दी