mi50 के लिए Vulkan अनुकूलन के साथ llama.cpp b9814 रिलीज

llama.cpp प्रोजेक्ट ने संस्करण b9814 जारी किया है, जिसमें AMD mi50 GPU को विशेष रूप से लक्षित करते हुए Vulkan में `mul_mat_vecq` ऑपरेशन के लिए एक अनुकूलन शामिल है। इस अपडेट के साथ कई ऑपरेटिंग सिस्टम और हार्डवेयर आर्किटेक्चर पर व्यापक रूप से पूर्व-निर्मित बाइनरीज़ उपलब्ध हैं।

• macOS Apple Silicon (arm64) और Intel (x64) बिल्स उपलब्ध हैं, जिनमें Apple Silicon के लिए KleidiAI समर्थन अक्षम किया गया है।
• Linux बाइनरी Ubuntu x64 और arm64 CPU, Vulkan, ROCm 7.2, OpenVINO, और SYCL FP32/FP16 वेरिएंट्स को कवर करते हैं।
• Windows रिलीज में CPU, OpenCL Adreno, CUDA 12.4 और 13.3, Vulkan, OpenVINO, SYCL, और HIP बैकएंड शामिल हैं।
• Android arm64 (CPU) और openEuler x86/aarch64 बिल्स 310p और 910b चिप्स के लिए प्रदान किए गए हैं, जिनमें openEuler x86 स्टैंडर्ड बिल्स अक्षम है।

इस रिलीज से उपयोगकर्ताओं को AMD GPUs के लिए Vulkan के माध्यम से विशिष्ट अनुकूलन सहित विभिन्न हार्डवेयर कॉन्फ़िगरेशन पर llama.cpp चलाने की सुविधा मिलती है।