llama.cpp प्रोजेक्ट ने संस्करण b9846 जारी किया है, जिसमें Asahi Linux के लिए Vulkan बैकएंड अनुकूलन शामिल है। यह अपडेट Apple Silicon हार्डवेयर पर चलने वाले Linux में संगतता और प्रदर्शन को बेहतर बनाने के लिए मैट्रिक्स गुणन में ब्लॉक साइज़ लूप को पीछे की ओर ले जाता है।
- Vulkan: सीधे SPIR-V संपादन के माध्यम से Asahi Linux के लिए matmul में BK लूप को पीछे की ओर ले जाता है।
- Vulkan: पिछले BK-लूप अनरोल बदलावों को वापस लेता है और इनलाइन टिप्पणियों को ठीक करता है।
- macOS/iOS: KleidiAI अक्षम के साथ Apple Silicon (arm64) और Intel (x64) के लिए बाइनरी प्रदान करता है।
- Linux: CPU, Vulkan, ROCm 7.2, OpenVINO, और SYCL बैकएंड्स पर Ubuntu x64, arm64, और s390x के लिए बिल्ड प्रदान करता है।
- Windows: x64 और arm64 के लिए CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, और HIP बिल्ड्स शामिल हैं।
- Android: एक arm64 CPU बाइनरी जारी करता है।
यह रिलीज़ Asahi Linux पर स्थिर Vulkan समर्थन सुनिश्चित करती है जबकि हार्डवेयर आर्किटेक्चर और एक्सेलरेशन लाइब्रेरी के एक व्यापक दायरे के लिए संपूर्ण पूर्व-निर्मित बाइनरी प्रदान करती है।