Rust रिलीज़ 0.0.12
Rust संस्करण 0.0.12 जारी किया गया है। यह प्रारंभिक संस्करण Rust के प्रारंभिक विकास चरण का हिस्सा है और भाषा के लिए मौलिक सुविधाओं को शामिल करता है।
Rust संस्करण 0.0.12 जारी किया गया है। यह प्रारंभिक संस्करण Rust के प्रारंभिक विकास चरण का हिस्सा है और भाषा के लिए मौलिक सुविधाओं को शामिल करता है।
Rust संस्करण 0.0.13 जारी किया गया है। यह प्रारंभिक संस्करण Rust के प्रारंभिक विकास चरण का हिस्सा है और भाषा के लिए मौलिक सुविधाओं को शामिल करता है।
Rust संस्करण 0.0.14 जारी किया गया है। यह प्रारंभिक संस्करण Rust के प्रारंभिक विकास चरण का हिस्सा है और भाषा के लिए मौलिक सुविधाओं को शामिल करता है।
LLaMA.cpp ने macOS, Linux, Android, Windows और openEuler के लिए कई आर्किटेक्चर पर b9729 संस्करण जारी किया है। इस रिलीज़ में CPU, Vulkan, OpenVINO, SYCL और ROCm समर्थन शामिल है, साथ ही एक नया UI पैकेज भी है। 'webui' के आंतरिक संदर्भ हटा दिए गए हैं।
LLaMA.cpp संस्करण b9728 ने --api-key-file कॉन्फ़िगरेशन में कमेंट लाइनों के लिए समर्थन पेश किया है। रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए कई आर्किटेक्चर और हार्डवेयर एक्सेलरेशन विकल्पों सहित Vulkan, CUDA, OpenVINO और SYCL के लिए प्री-बिल्ट बाइनरीज शामिल हैं।
llama.cpp संस्करण b9726 ने एक नया --agent तर्क पेश किया है और अनावश्यक webui नामकरण संगतता को हटा दिया है। इस रिलीज़ में कई आर्किटेक्चर और हार्डवेयर एक्सेलरेशन विकल्पों के लिए macOS, Linux, Android, Windows और openEuler के लिए प्रीकंपाइंड बाइनरी शामिल हैं।
llama.cpp संस्करण b9727, cpp-httplib को संस्करण 0.48.0 पर अपडेट करता है। रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए कई आर्किटेक्चर और Vulkan, CUDA, OpenVINO और SYCL सहित हार्डवेयर एक्सेलरेशन विकल्पों के लिए बाइनरी शामिल हैं।
डॉकर प्रोजेक्ट ने UI घटक को बनाने के लिए समर्थन जोड़ा है। इस अपडेट में कंटेनर कॉन्फ़िगरेशन में मौजूदा APP_VERSION का उपयोग भी शामिल है।
llama.cpp संस्करण b9724 में कई बग फिक्स और सुधार शामिल हैं, जैसे कि बिल्ड फिक्स, area() फ़ंक्शन में ओवरफ्लो से बचाव, और get_u32() में एक सैनिटी चेक। इस रिलीज़ में macOS (arm64 और x64), Linux (x64, arm64, s390x, Vulkan, ROCm, OpenVINO, SYCL), Android (arm64), Windows (x64, arm64, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) और openEuler (ACL Graph सहायता के साथ x86 और aarch64) के लिए पूर्व-निर्मित बाइनरी, साथ ही एक UI पैकेज प्रदान करता है।
llama.cpp संस्करण b9723 ने Eagle3 के माध्यम से Qwen3.5 और Qwen3.6 मॉडल के लिए समर्थन पेश किया है। इस रिलीज में हाइब्रिड मॉडल के लिए विलंबित बाउंड्री चेकपॉइंट पुनर्स्थापना, और API व नामकरण परंपराओं में अपडेट शामिल हैं। macOS, Linux, Android, Windows, और openEuler प्लेटफ़ॉर्म के लिए बाइनरी बिल्स उपलब्ध हैं, जिनमें CPU, Vulkan, OpenVINO, SYCL, और ROCm के विकल्प शामिल हैं।
LLaMA.cpp संस्करण b9722 सर्वर संदर्भ हैंडलिंग में n_discard मान की गैर-बाउंड समस्या को ठीक करता है। इस रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए प्रीकंपाइल्ड बाइनरी शामिल हैं, जो विभिन्न आर्किटेक्चर और Vulkan, CUDA, OpenVINO और SYCL जैसे एक्सेलरेशन फ्रेमवर्क्स का समर्थन करती हैं।
llama.cpp संस्करण b9718 में सॉट चयन को get_available_slot नामक एकल फ़ंक्शन में एकीकृत किया गया है, जबकि प्रॉम्प्ट कैश अपडेट के लिए LCP समानता जांच बनाए रखी गई है। इस रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए कई आर्किटेक्चर और हार्डवेयर एक्सेलरेशन विकल्पों के साथ बाइनरी बिल्ड्स शामिल हैं।
llama.cpp ने b9721 संस्करण जारी किया है, जिसमें विभिन्न आर्किटेक्चर के लिए macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं। इस रिलीज में CPU, Vulkan, ROCm, OpenVINO, SYCL और HIP समर्थन शामिल है, जिसमें एक समर्पित UI पैकेज भी है। KleidiAI के साथ Apple Silicon के लिए एक सुविधा वर्तमान में अक्षम है।
ggml-cpu अब Power10 Q8/Q4 MMA मैट्रिक्स गुणन में K tails का समर्थन करता है, जिससे K के kc से विभाज्य होने की आवश्यकता समाप्त हो गई है। इससे अधिक कार्यभार MMA kernel का उपयोग कर सकते हैं और mnpack पर निर्भरता कम होती है।
v0.17.6 रिलीज़ में प्री-अप्रूवल टूल इनपुट गार्डरेल और टूल आउटपुट के लिए केवल SDK कस्टम डेटा जोड़ा गया है। यह टूल आउटपुट के लिए एक सख्त JSON-संगत अनुबंध को लागू करता है और टूल नामों में अनावश्यक व्हाइटस्पेस चेतावनियों को दबा देता है। @siddiksawani ने इस रिलीज़ में अपना पहला योगदान दिया है।
llama.cpp संस्करण b9716 ने InternVL के लिए batching support पेश किया है, जिससे कुशल बैच प्रोसेसिंग के माध्यम से मॉडल प्रदर्शन में सुधार हुआ है। रिलीज में macOS, Linux, Android, Windows और openEuler के लिए binary builds शामिल हैं, जो कई आर्किटेक्चर और Vulkan, OpenVINO, SYCL, और ROCm सहित हार्डवेयर एक्सेलरेशन विकल्पों पर उपलब्ध हैं।
llama.cpp ने mtmd-cli में बैचिंग समर्थन और वीडियो टेस्ट जोड़कर संस्करण b9713 जारी किया है। रिलीज में macOS, Linux, Android, Windows, और openEuler के लिए बाइनरी शामिल हैं, जो विभिन्न आर्किटेक्चर और Vulkan, CUDA, OpenVINO, और SYCL सहित हार्डवेयर एक्सेलरेशन विकल्पों पर उपलब्ध हैं।
llama.cpp संस्करण b9714 ने स्ट्रीमिंग एंडपॉइंट्स में "X-Accel-Buffering": "no" हेडर जोड़ा है ताकि Nginx प्रतिक्रियाओं को बफ़र न करे, जिससे Pi कोडिंग हार्नेस जैसे ऐप्स के साथ स्ट्रीमिंग समस्याएं हल हो जाती हैं। इस रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं, जो कई आर्किटेक्चर और हार्डवेयर त्वरण विकल्पों को कवर करते हैं।
LLaMA.cpp संस्करण b9715 ने GGML_OP_COL2IM_1D के लिए CUDA समर्थन पेश किया, जो CPU कार्यान्वयन पर आधारित है। इस रिलीज में macOS, Linux, Android, Windows और openEuler के लिए कई आर्किटेक्चर और त्वरण फ्रेमवर्क्स, जैसे Vulkan, ROCm, OpenVINO और SYCL के साथ बाइनरीज़ शामिल हैं।
v1.14.8a2, Flow परिभाषाओं में एकल एजेंट क्रिया जोड़ता है और लोड समय पर CEL अभिव्यक्तियों को मान्य करता है। इसमें एक नया Datadog इंटीग्रेशन गाइड, एक आयात योग्य ऑपरेशन डैशबोर्ड, और v1.14.8a1 के लिए अपडेटेड स्नैपशॉट और चेंजलॉग शामिल हैं।