github llama.cpp · 13 दिन पहले

llama.cpp Release b9693 में BF16 सपोर्ट और क्रॉस-प्लेटफ़ॉर्म बाइनरीज़ जोड़े गए

llama.cpp संस्करण b9693 ने अपने concat kernel में BF16 सपोर्ट पेश किया है और macOS, Linux, Android, Windows, और openEuler के लिए पूर्व-निर्मित बाइनरीज़ प्रदान करता है। इस रिलीज़ में कई आर्किटेक्चरों पर CPU, Vulkan, ROCm, OpenVINO, SYCL, और HIP वेरिएंट शामिल हैं, जिसके साथ एक समर्पित UI पैकेज भी उपलब्ध है।

github llama.cpp · 13 दिन पहले

llama.cpp ने कई प्लेटफॉर्मों के लिए नए बाइनरी के साथ संस्करण b9694 जारी किया

llama.cpp ने संस्करण b9694 जारी किया है, जिसमें macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं। रिलीज में CUDA, Vulkan, OpenVINO, SYCL और ROCm जैसे विभिन्न आर्किटेक्चर और त्वरण विकल्पों का समर्थन किया जाता है। विंडोज x64 OpenVINO रिलीज लिंक के लिए एक सुधार भी लागू किया गया था।

lab Claude Code Releases · 14 दिन पहले

Claude Code v2.1.181 रिलीज नोट्स

Claude Code v2.1.181 में /config thinking=false जैसे प्रॉम्प्ट सिंटैक्स के माध्यम से कॉन्फ़िगरेशन सेटिंग्स सेट करने का समर्थन जोड़ा गया है, macOS पर सैंडबॉक्स Apple इवेंट्स का समर्थन जोड़ा गया है, और स्ट्रीमिंग, ऑटो-रीट्राई और सबएजेंट व्यवहार में सुधार किया गया है। यह प्लेटफ़ॉर्मों के बीच स्टार्टअप, फ़ाइल हैंडलिंग, क्लिपबोर्ड और UI प्रतिक्रियाशीलता से जुड़ी कई बग को भी ठीक करता है।

github llama.cpp · 14 दिन पहले

ggml-cpu: कंपाइलर समर्थन के आधार पर शर्तिया POWER11 बैकएंड सक्षम करें

ggml-cpu प्रोजेक्ट अब ggml में -mcpu=power11 के लिए कंपाइलर समर्थन के आधार पर शर्तिया रूप से POWER11 बैकएंड को सक्षम करता है। यह वर्तमान GCC/Clang toolchains पर बिल्ड विफलताओं को रोकता है, जबकि भविष्य की संगतता बनाए रखता है। CMakeLists.txt में अपडेट इस बदलाव का समर्थन करते हैं, और P10 और P11 दोनों आर्किटेक्चर के लिए -mcpu=power10 का उपयोग किया जाता है।

github llama.cpp · 14 दिन पहले

llama.cpp Release b9692 Adds New Binaries and Fixes

llama.cpp version b9692 introduces new binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures. The release includes updates to support Vulkan, ROCm, OpenVINO, SYCL, and HIP, with fixes to remove batch dim usage in llava_uhd.

github llama.cpp · 14 दिन पहले

Metal बैकएंड ने concat ऑपरेटर के लिए f16 और bf16 समर्थन जोड़ा

llama.cpp में Metal बैकएंड को concat ऑपरेटर के लिए f16 और bf16 टेंसर प्रकारों का समर्थन करने के लिए विस्तारित किया गया है, मौजूदा f32 और i32 समर्थन के अलावा। इस अपडेट में विशेष कुंजी टेम्पलेट, अपडेटेड पाइपलाइन गेटर्स, और बेहतर प्रकार-आधारित कुंजी डिस्पैच शामिल हैं, जिसमें pi:llama.cpp/Qwen3.6-27B की सहायता मिली।

github llama.cpp · 14 दिन पहले

llama.cpp ने rope_back ऑपरेटर और क्रॉस-प्लेटफ़ॉर्म बाइनरी के साथ b9690 जारी किया

llama.cpp संस्करण b9690 में एक rope_back ऑपरेटर पेश किया गया है, जिसे मौजूदा rope kernels को पुन: उपयोग करके और फॉरवर्ड/बैकवर्ड रोटेशन टॉगल करने के लिए एक फ़ंक्शन कॉन्स्टेंट का उपयोग करके लागू किया गया है। इस रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए प्रीबिल्ट बाइनरी शामिल हैं, जो कई आर्किटेक्चर और Vulkan, CUDA, ROCm, OpenVINO और SYCL सहित हार्डवेयर एक्सेलरेशन विकल्पों पर उपलब्ध हैं।

github llama.cpp · 14 दिन पहले

llama.cpp Release b9687 Adds New Binaries and Fixes

llama.cpp version b9687 introduces new binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures. The release includes support for Vulkan, ROCm, OpenVINO, SYCL, and HIP, with updates to improve device validation and performance on available hardware.

github llama.cpp · 14 दिन पहले

llama.cpp ने नए APIs और क्रॉस-प्लेटफ़ॉर्म बाइनरी के साथ संस्करण b9688 जारी किया

llama.cpp ने मॉडल प्रबंधन और SSE रियलटाइम अपडेट्स APIs जोड़ते हुए संस्करण b9688 जारी किया है। इस रिलीज़ में macOS, Linux, Android, Windows, और openEuler के लिए प्रीबिल्ट बाइनरी शामिल हैं, जो विभिन्न आर्किटेक्चर्स और Vulkan, CUDA, OpenVINO, और SYCL जैसे एक्सेलरेशन फ्रेमवर्क्स का समर्थन करती हैं।

github llama.cpp · 14 दिन पहले

LLaMA.cpp Release b9685 Adds SYCL Dev2Dev Memcpy and Multiple Platform Binaries

LLaMA.cpp version b9685 introduces SYCL-based dev2dev memcpy functionality, moving GGML_SYCL_DEV2DEV_MEMCPY to runtime table and improving peer-to-peer communication detection. The release includes precompiled binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures and APIs including Vulkan, ROCm, OpenVINO, and SYCL (FP32/FP16).

github llama.cpp · 14 दिन पहले

llama.cpp बर्नच b9686: Eagle3 के लिए लंबे प्रॉम्प्ट्स पर सेगफ़ॉल्ट को ठीक करता है

llama.cpp संस्करण b9686 ने Eagle3 मॉडल पर लंबे प्रॉम्प्ट्स के साथ होने वाले सेगफ़ॉल्ट त्रुटि को ठीक किया है। रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए कई आर्किटेक्चर और Vulkan, CUDA, OpenVINO, और SYCL सहित हार्डवेयर एक्सेलरेशन विकल्पों के लिए बाइनरी शामिल हैं।

github llama.cpp · 14 दिन पहले

LLaMA.cpp Release b9684 Adds Conv_3D and Multiple Platform Binaries

LLaMA.cpp release b9684 introduces a new 3D convolution operation (conv_3d) and includes optimized implementations. The release provides prebuilt binaries for macOS, Linux, Android, Windows, and openEuler across various architectures and hardware acceleration options, including SYCL, Vulkan, CUDA, and OpenVINO.

github llama.cpp · 14 दिन पहले

llama.cpp b9682 रिलीज में Vulkan समर्थन और नए प्लेटफ़ॉर्म बाइनरी शामिल हैं

llama.cpp संस्करण b9682 ने Linux और Windows के लिए Vulkan समर्थन पेश किया है, जिससे GPU त्वरण सक्षम हो गया है। इस रिलीज में कई आर्किटेक्चर पर macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं, जिनमें CPU और GPU विकल्पों में CUDA, OpenVINO, SYCL और ROCm शामिल हैं।

github llama.cpp · 14 दिन पहले

LLaMA.cpp b9678 रिलीज में अनुकूलन और क्रॉस-प्लेटफ़ॉर्म बिल्ड्स जोड़े गए

LLaMA.cpp रिलीज b9678 में decode के लिए mul_mat_f16_f32_l4 का अनुकूलन शामिल है और macOS, Linux, Android, Windows, और openEuler के लिए नए बिल्ड्स पेश किए गए हैं। इस रिलीज में कई आर्किटेक्चरों पर CPU, Vulkan, ROCm, OpenVINO, SYCL, और HIP समर्थन उपलब्ध है, जिसमें एक समर्पित UI पैकेज भी शामिल है।

github llama.cpp · 14 दिन पहले

llama.cpp बर्नच b9677: अपडेट और क्रॉस-प्लेटफ़ॉर्म बाइनरी

llama.cpp संस्करण b9677 ने लॉगिंग को max_capacity लागू करने के लिए अपडेट किया है और क्यू एक्सपेंशन तर्क को हटा दिया है। रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं, जो विभिन्न आर्किटेक्चर और Vulkan, CUDA, OpenVINO और SYCL सहित हार्डवेयर एक्सेलरेशन विकल्पों पर उपलब्ध हैं।

github llama.cpp · 14 दिन पहले

LLaMA.cpp ने b9674 जारी किया: Async memcpy बग को ठीक किया और नए बाइनरी जोड़े

LLaMA.cpp संस्करण b9674 ने MoE prefill के दौरान SYCL के async memcpy में use-after-free बग को ठीक किया। रिलीज़ में macOS, Linux, Android, Windows, और openEuler के लिए बाइनरी शामिल हैं, जो कई आर्किटेक्चर पर CPU, Vulkan, ROCm, OpenVINO, SYCL, और CUDA का समर्थन करती हैं।

github llama.cpp · 14 दिन पहले

llama.cpp b9675 रिलीज़ में FP16 समर्थन और नए प्लेटफ़ॉर्म बाइनरी शामिल हैं

llama.cpp संस्करण b9675 ने SQR, SQRT, LOG, SIN, COS, और CLAMP जैसे ऑपरेशन के लिए FP16 समर्थन सक्षम किया है। इस रिलीज़ में कई आर्किटेक्चर पर macOS, Linux, Android, Windows, और openEuler के लिए बाइनरी शामिल हैं, जिसमें Vulkan, ROCm, OpenVINO, SYCL (FP16 और FP32), और CUDA 12.4 और 13.3 का समर्थन है।

github llama.cpp · 14 दिन पहले

llama.cpp ने b9680 जारी किया: नए बाइनरी और Vulkan समर्थन

llama.cpp ने macOS, Linux, Android, Windows और openEuler के लिए अपडेटेड Vulkan समर्थन और नए बाइनरी के साथ संस्करण b9680 जारी किया है। इस रिलीज में कई आर्किटेक्चर के लिए CPU और GPU वेरिएंट शामिल हैं, जिनमें Vulkan, CUDA, OpenVINO, SYCL और ROCm का समर्थन है।

github llama.cpp · 14 दिन पहले

llama.cpp ने USM सिस्टम आवंटन और क्रॉस-प्लेटफ़ॉर्म बाइनरी के साथ b9673 जारी किया

llama.cpp संस्करण b9673 में GPU बफर ≥1GB के लिए वैकल्पिक USM सिस्टम आवंटन शामिल हैं, जो उपकरण समर्थन उपलब्ध होने पर VRAM ओवरकॉमिट को सक्षम बनाता है। इस सुविधा के लिए GGML_SYCL_USM_SYSTEM पर्यावरण चर की आवश्यकता होती है और यह डिफ़ॉल्ट रूप से अक्षम है, यदि असमर्थित हो तो नियमित आवंटन पर वापस आ जाता है।

lab Claude Code Releases · 15 दिन पहले

v2.1.179 रिलीज नोट्स

v2.1.179 में मध्य-स्ट्रीम कनेक्शन ड्रॉप, WSL2 में माउस-व्हील स्क्रॉलिंग समस्याएं, और अत्यधिक Bash टूल विवरणों का कारण बनने वाले सैंडबॉक्स ग्लॉग बग को ठीक किया गया है। इसमें फीडबैक सर्वे त्रुटियों, प्रचार बैनर स्टैकिंग, और सबएजेंट व्यू में फोकस समस्याओं को भी हल किया गया है, साथ ही रिमोट सेशनों में प्लगइन लोडिंग में सुधार किया गया है।