llama.cpp परियोजना ने बिल्ड b10696 जारी किया है, जिसमें एक पुल रिक्वेस्ट शामिल है जो विशेष रूप से Apple M3 Pro चिप के लिए तेज़ वेक्टर (fa-vec) ट्यूनिंग जोड़ता है।
यह अपडेट इस विशिष्ट हार्डवेयर कॉन्फ़िगरेशन पर प्रदर्शन को बेहतर बनाने के लिए मुद्दा #27668 को संबोधित करता है। रिलीज़ में CPU, CUDA, ROCm, Vulkan, OpenVINO और SYCL सहित विभिन्न बैकएंड्स के माध्यम से macOS, iOS, Linux, Windows, Android और openEuler के लिए बाइनरी प्रदान की गई हैं।
fa-vec ट्यूनि का उद्देश्य M3 Pro प्रोसेसर से लैस उपकरणों पर llama.cpp चलाते समय उपयोगकर्ताओं के लिए इनफरेंस गति या दक्षता को अनुकूलित करना है।