llama.cpp प्रोजेक्ट ने बिल्ड b11118 जारी किया है, जिसमें एक नया hex-dma फीचर शामिल है जो एक डायरेक्ट-मैप्ड DMA कैश पेश करता है जो Hexagon Vector eXtended (HVX) FA मस्क हैंडलिंग के लिए अधिक उपयुक्त है।
इस रिलीज में कई प्लेटफॉर्म और हार्डवेयर बैकएंड्स पर बाइनरी और फ्रेमवर्क्स प्रदान किए गए हैं:
- macOS Apple Silicon (arm64), macOS Intel (x64), और iOS XCFramework
- Linux Ubuntu x64, arm64, s390x, और विभिन्न GPU/CPU बैकएंड्स जिनमें CUDA 12/13, ROCm 10.0, OpenVINO, SYCL, और Vulkan शामिल हैं
- Windows x64 और arm64 CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, और ROCm 10.0 सपोर्ट के साथ
- CPU और Snapdragon (CPU, Adreno GPU, Hexagon NPU) के लिए Android arm64
- Snapdragon डिवाइसों के लिए Linux arm64 जिसमें CPU, Adreno GPU, और Hexagon NPU शामिल हैं
- एक स्टैंडअलोन UI बिल्ड भी उपलब्ध है।
अपडेट उपयोगकर्ताओं को विभिन्न आर्किटेक्चर पर llama.cpp चलाने की सुविधा देता है, विशेष रूप से नए डायरेक्ट-मैप्ड DMA कैश के माध्यम से Qualcomm Snapdragon प्रोसेसर के साथ Hexagon NPUs के लिए समर्थन में सुधार करता है।