llama.cpp संस्करण b9718 में सॉट चयन को get_available_slot नामक एकल फ़ंक्शन में एकीकृत किया गया है, जबकि प्रॉम्प्ट कैश अपडेट के लिए LCP समानता जांच बनाए रखी गई है। इस रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए कई आर्किटेक्चर और हार्डवेयर एक्सेलरेशन विकल्पों के साथ बाइनरी बिल्ड्स शामिल हैं।
llama.cpp ने b9721 संस्करण जारी किया है, जिसमें विभिन्न आर्किटेक्चर के लिए macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं। इस रिलीज में CPU, Vulkan, ROCm, OpenVINO, SYCL और HIP समर्थन शामिल है, जिसमें एक समर्पित UI पैकेज भी है। KleidiAI के साथ Apple Silicon के लिए एक सुविधा वर्तमान में अक्षम है।
ggml-cpu अब Power10 Q8/Q4 MMA मैट्रिक्स गुणन में K tails का समर्थन करता है, जिससे K के kc से विभाज्य होने की आवश्यकता समाप्त हो गई है। इससे अधिक कार्यभार MMA kernel का उपयोग कर सकते हैं और mnpack पर निर्भरता कम होती है।
v0.17.6 रिलीज़ में प्री-अप्रूवल टूल इनपुट गार्डरेल और टूल आउटपुट के लिए केवल SDK कस्टम डेटा जोड़ा गया है। यह टूल आउटपुट के लिए एक सख्त JSON-संगत अनुबंध को लागू करता है और टूल नामों में अनावश्यक व्हाइटस्पेस चेतावनियों को दबा देता है। @siddiksawani ने इस रिलीज़ में अपना पहला योगदान दिया है।
llama.cpp संस्करण b9716 ने InternVL के लिए batching support पेश किया है, जिससे कुशल बैच प्रोसेसिंग के माध्यम से मॉडल प्रदर्शन में सुधार हुआ है। रिलीज में macOS, Linux, Android, Windows और openEuler के लिए binary builds शामिल हैं, जो कई आर्किटेक्चर और Vulkan, OpenVINO, SYCL, और ROCm सहित हार्डवेयर एक्सेलरेशन विकल्पों पर उपलब्ध हैं।
llama.cpp ने mtmd-cli में बैचिंग समर्थन और वीडियो टेस्ट जोड़कर संस्करण b9713 जारी किया है। रिलीज में macOS, Linux, Android, Windows, और openEuler के लिए बाइनरी शामिल हैं, जो विभिन्न आर्किटेक्चर और Vulkan, CUDA, OpenVINO, और SYCL सहित हार्डवेयर एक्सेलरेशन विकल्पों पर उपलब्ध हैं।
llama.cpp संस्करण b9714 ने स्ट्रीमिंग एंडपॉइंट्स में "X-Accel-Buffering": "no" हेडर जोड़ा है ताकि Nginx प्रतिक्रियाओं को बफ़र न करे, जिससे Pi कोडिंग हार्नेस जैसे ऐप्स के साथ स्ट्रीमिंग समस्याएं हल हो जाती हैं। इस रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं, जो कई आर्किटेक्चर और हार्डवेयर त्वरण विकल्पों को कवर करते हैं।
LLaMA.cpp संस्करण b9715 ने GGML_OP_COL2IM_1D के लिए CUDA समर्थन पेश किया, जो CPU कार्यान्वयन पर आधारित है। इस रिलीज में macOS, Linux, Android, Windows और openEuler के लिए कई आर्किटेक्चर और त्वरण फ्रेमवर्क्स, जैसे Vulkan, ROCm, OpenVINO और SYCL के साथ बाइनरीज़ शामिल हैं।
llama.cpp ने macOS, Linux, Android, Windows और openEuler के लिए अपडेटेड बाइनरी के साथ संस्करण b9711 जारी किया है। इस रिलीज में ARM64, x64, Vulkan, ROCm, OpenVINO, SYCL और HIP का समर्थन शामिल है, जिसमें CPU और GPU त्वरण के लिए समर्पित बाइनरी हैं। एक नया UI पैकेट भी उपलब्ध है।
llama.cpp संस्करण b9712 में readonly source फ़ाइलों से होने वाले UI build समस्याओं के लिए एक सुधार शामिल है। रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए pre-built binaries प्रदान किए गए हैं, जो Vulkan, CUDA, OpenVINO और SYCL सहित कई architectures और hardware acceleration options पर उपलब्ध हैं।
v2.1.183 स्पष्ट उपयोगकर्ता सहमति के बिना विनाशकारी git और destroy कमांड्स को ब्लॉक करके ऑटो मोड सुरक्षा में सुधार करता है। यह मॉडल के लिए deprecation चेतावनियां जोड़ता है, session links छिपाने के लिए attribution.sessionUrl पेश करता है, और terminal व्यवहार, subagent प्रदर्शन, और web व tmux वातावरण में इनपुट हैंडलिंग सहित कई समस्याओं को ठीक करता है।
llama.cpp संस्करण b9707 में स्कीमा वैलिडेशन और त्रुटि संदेश में सुधार शामिल हैं। इसमें कई आर्किटेक्चर और हार्डवेयर एक्सेलरेशन विकल्पों के लिए macOS, Linux, Android, Windows और openEuler के लिए बाइनरी बिल्ड्स शामिल हैं।
LangGraph ने संस्करण 1.2.6 जारी किया, जिसमें एक रीग्रेशन को ठीक किया गया जहाँ नेस्टेड सबग्राफ़्स गलत तरीके से पैरेंट चेकपॉइंट_ns को इनहेरिट कर रहे थे। अपडेट में स्ट्रीम एबॉर्ट के दौरान चल रहे सबग्राफ़्स के कैंसिलेशन में भी सुधार शामिल है और इसमें CLI संस्करण 0.4.30 तक का अपडेट भी शामिल है।
llama.cpp संस्करण b9703 में सर्वर के प्रीसेट हैंडलिंग का पुनर्निर्माण शामिल है, जिसमें रिमोट HF प्रीसेट समर्थन और पुराने फ़ंक्शन हटा दिए गए हैं। रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए बाइनरी उपलब्ध कराए गए हैं, जो विभिन्न आर्किटेक्चर और Vulkan, CUDA, OpenVINO, और SYCL सहित हार्डवेयर त्वरण विकल्पों को कवर करते हैं।
llama.cpp संस्करण b9704 अब अमान्य व्याकरण के लिए HTTP 400 लौटाता है, बजाय प्रतिबंधों को चुपचाप छोड़ने के। रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए कई आर्किटेक्चर और हार्डवेयर एक्सेलेरेटर पर बाइनरी शामिल हैं, जिसमें Vulkan, ROCm, OpenVINO, SYCL और CUDA का समर्थन है।
llama.cpp संस्करण b9702 में चिल्ड इंस्टेंस को राउटर आर्ग्स फॉरवर्ड न होने के लिए एक फिक्स शामिल है। रिलीज़ में Vulkan, ROCm, OpenVINO और SYCL सहित कई आर्किटेक्चर और हार्डवेयर एक्सेलरेशन विकल्पों के लिए macOS, Linux, Android, Windows और openEuler के लिए बाइनरी प्रदान की गई हैं।
llama.cpp संस्करण b9701 में एक पुनर्गठित प्रीप्रोसेसर पेश किया गया है जिसमें नई mtmd_image_preproc_out सुविधा और अपडेटेड डेवलपर दस्तावेज़ीकरण शामिल है। रिलीज में macOS, Linux, Android, Windows और openEuler के लिए कई आर्किटेक्चर और Vulkan, CUDA, OpenVINO, और SYCL सहित हार्डवेयर एक्सेलरेशन विकल्पों पर बाइनरी शामिल हैं।
llama.cpp संस्करण b9700 में पुनर्नामित API फ्लैग के साथ अद्यतित SYCL समर्थन पेश किया गया है: GGML_SYCL_SUPPORT_LEVEL_ZERO को GGML_SYCL_SUPPORT_LEVEL_ZERO_API में और GGML_SYCL_ENABLE_LEVEL_ZERO को GGML_SYCL_USE_LEVEL_ZERO_API में पुनर्नामित किया गया है। रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं, जो कई आर्किटेक्चर और हार्डवेयर त्वरण विकल्पों जैसे Vulkan, ROCm, OpenVINO और SYCL पर उपलब्ध हैं।
LLaMA.cpp संस्करण b9698 केवल llama-install.sh के साथ बनाए जाने पर ही स्वयं अपडेट सक्षम करता है। इस रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं, जो कई आर्किटेक्चर और Vulkan, CUDA, OpenVINO, और SYCL सहित हार्डवेयर त्वरण विकल्पों पर उपलब्ध हैं।
llama.cpp version b9699 introduces support for MUL_MAT and OUT_PROD operations with Q1_0 precision via PR #24721. The release includes precompiled binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures and acceleration frameworks, including SYCL (FP32 and FP16), Vulkan, CUDA, ROCm, and OpenVINO.