llama.cpp प्रोजेक्ट ने संस्करण b9927 जारी किया, जिसमें कमांड-लाइन इंटरफ़ेस को HTTP-आधारित कार्यान्वयन में स्थानांतरित करके एक महत्वपूर्ण अपडेट शामिल है। इस बदलाव से CLI के भीतर राउटर मोड का समर्थन पेश किया गया है।
- CLI अब पिछले तरीकों की जगह HTTP-आधारित बैकएंड का उपयोग करता है।
- नई CLI कार्यान्वयन में राउटर मोड का समर्थन है।
- मॉडल अलाइस अब इंटरफ़ेस में प्रदर्शित होते हैं।
- macOS (Apple Silicon और Intel), Linux, Android, Windows, और openEuler के लिए पूर्व-बिल्ड बाइनरी उपलब्ध हैं।
- GPU त्वरण विकल्पों में समर्थित प्लेटफ़ॉर्म पर CUDA 12/13, Vulkan, ROCm, OpenCL, SYCL, और OpenVINO शामिल हैं।
यह रिलीज़ विभिन्न ऑपरेटिंग सिस्टम और हार्डवेयर कॉन्फ़िगरेशन के लिए अपडेटेड बाइनरी प्रदान करती है, CLI टूलिंग में आर्किटेक्चरल बदलाव के साथ।