llama.cpp प्रोजेक्ट ने संस्करण b10594 जारी किया, जिसमें LOG_LEVEL_TRACE पर सेट न होने की स्थिति में device_info लूप को छोड़ने के लिए एक सुधार शामिल है। पहले, यह लूप खोजे गए उपकरणों पर पुनरावृत्ति करता था ताकि मेमोरी गणना का पता लगाया जा सके, जिसके लिए GPU संदर्भ बनाने की आवश्यकता होती थी और डेटा को फेंक दिए जाने के बावजूद 550 MB VRAM आवंटन का कारण बना।
- लूप से पहले verbosity स्तर की जांच करके यह परिवर्तन अनावश्यक GPU संसाधन उपयोग को रोकता है।
- macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm), Android, और iOS के लिए बाइनरी उपलब्ध हैं।
- रिलीज़ में सत्यापन के लिए UI बाइनरी और प्रमाण भी प्रदान किए गए हैं।
यह अपडेट उन उपयोगकर्ताओं की मदद करता है जो किसी भी GPU संसाधन का उपयोग नहीं करना चाहते हैं, जब उपकरण जानकारी की आवश्यकता न हो तो संदर्भ बनाने और VRAM आवंटित करने के ओवरहेड से बचें।