github llama.cpp · 13 दिन पहले

llama.cpp रिलीज़ b9700: नए बाइनरी और SYCL API अपडेट

llama.cpp संस्करण b9700 में पुनर्नामित API फ्लैग के साथ अद्यतित SYCL समर्थन पेश किया गया है: GGML_SYCL_SUPPORT_LEVEL_ZERO को GGML_SYCL_SUPPORT_LEVEL_ZERO_API में और GGML_SYCL_ENABLE_LEVEL_ZERO को GGML_SYCL_USE_LEVEL_ZERO_API में पुनर्नामित किया गया है। रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं, जो कई आर्किटेक्चर और हार्डवेयर त्वरण विकल्पों जैसे Vulkan, ROCm, OpenVINO और SYCL पर उपलब्ध हैं।

github llama.cpp · 13 दिन पहले

LLaMA.cpp रिलीज़ b9698 में सेल्फ-अपडेट समर्थन और कई प्लेटफ़ॉर्म बाइनरी जोड़े गए

LLaMA.cpp संस्करण b9698 केवल llama-install.sh के साथ बनाए जाने पर ही स्वयं अपडेट सक्षम करता है। इस रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं, जो कई आर्किटेक्चर और Vulkan, CUDA, OpenVINO, और SYCL सहित हार्डवेयर त्वरण विकल्पों पर उपलब्ध हैं।

github llama.cpp · 13 दिन पहले

llama.cpp Release b9699 Adds SYCL Support and Multiple Platform Binaries

llama.cpp version b9699 introduces support for MUL_MAT and OUT_PROD operations with Q1_0 precision via PR #24721. The release includes precompiled binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures and acceleration frameworks, including SYCL (FP32 and FP16), Vulkan, CUDA, ROCm, and OpenVINO.

github llama.cpp · 13 दिन पहले

LLaMA.cpp ने b9697 जारी किया: नए बाइनरी और अपडेट

LLaMA.cpp ने macOS, Linux, Android, Windows और openEuler के लिए अद्यतन बाइनरी के साथ संस्करण b9697 जारी किया है। इस रिलीज में ARM64, x64, Vulkan, CUDA 12 और 13, OpenVINO, SYCL और ROCm का समर्थन शामिल है, जिसमें रिलीज चेक में एक ठोस संदेश पार्सिंग समस्या को ठीक किया गया है।

github llama.cpp · 13 दिन पहले

llama.cpp Release b9693 में BF16 सपोर्ट और क्रॉस-प्लेटफ़ॉर्म बाइनरीज़ जोड़े गए

llama.cpp संस्करण b9693 ने अपने concat kernel में BF16 सपोर्ट पेश किया है और macOS, Linux, Android, Windows, और openEuler के लिए पूर्व-निर्मित बाइनरीज़ प्रदान करता है। इस रिलीज़ में कई आर्किटेक्चरों पर CPU, Vulkan, ROCm, OpenVINO, SYCL, और HIP वेरिएंट शामिल हैं, जिसके साथ एक समर्पित UI पैकेज भी उपलब्ध है।

github llama.cpp · 13 दिन पहले

llama.cpp ने कई प्लेटफॉर्मों के लिए नए बाइनरी के साथ संस्करण b9694 जारी किया

llama.cpp ने संस्करण b9694 जारी किया है, जिसमें macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं। रिलीज में CUDA, Vulkan, OpenVINO, SYCL और ROCm जैसे विभिन्न आर्किटेक्चर और त्वरण विकल्पों का समर्थन किया जाता है। विंडोज x64 OpenVINO रिलीज लिंक के लिए एक सुधार भी लागू किया गया था।

lab Claude Code Releases · 14 दिन पहले

Claude Code v2.1.181 रिलीज नोट्स

Claude Code v2.1.181 में /config thinking=false जैसे प्रॉम्प्ट सिंटैक्स के माध्यम से कॉन्फ़िगरेशन सेटिंग्स सेट करने का समर्थन जोड़ा गया है, macOS पर सैंडबॉक्स Apple इवेंट्स का समर्थन जोड़ा गया है, और स्ट्रीमिंग, ऑटो-रीट्राई और सबएजेंट व्यवहार में सुधार किया गया है। यह प्लेटफ़ॉर्मों के बीच स्टार्टअप, फ़ाइल हैंडलिंग, क्लिपबोर्ड और UI प्रतिक्रियाशीलता से जुड़ी कई बग को भी ठीक करता है।

github llama.cpp · 14 दिन पहले

ggml-cpu: कंपाइलर समर्थन के आधार पर शर्तिया POWER11 बैकएंड सक्षम करें

ggml-cpu प्रोजेक्ट अब ggml में -mcpu=power11 के लिए कंपाइलर समर्थन के आधार पर शर्तिया रूप से POWER11 बैकएंड को सक्षम करता है। यह वर्तमान GCC/Clang toolchains पर बिल्ड विफलताओं को रोकता है, जबकि भविष्य की संगतता बनाए रखता है। CMakeLists.txt में अपडेट इस बदलाव का समर्थन करते हैं, और P10 और P11 दोनों आर्किटेक्चर के लिए -mcpu=power10 का उपयोग किया जाता है।

github llama.cpp · 14 दिन पहले

llama.cpp Release b9692 Adds New Binaries and Fixes

llama.cpp version b9692 introduces new binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures. The release includes updates to support Vulkan, ROCm, OpenVINO, SYCL, and HIP, with fixes to remove batch dim usage in llava_uhd.

github llama.cpp · 14 दिन पहले

Metal बैकएंड ने concat ऑपरेटर के लिए f16 और bf16 समर्थन जोड़ा

llama.cpp में Metal बैकएंड को concat ऑपरेटर के लिए f16 और bf16 टेंसर प्रकारों का समर्थन करने के लिए विस्तारित किया गया है, मौजूदा f32 और i32 समर्थन के अलावा। इस अपडेट में विशेष कुंजी टेम्पलेट, अपडेटेड पाइपलाइन गेटर्स, और बेहतर प्रकार-आधारित कुंजी डिस्पैच शामिल हैं, जिसमें pi:llama.cpp/Qwen3.6-27B की सहायता मिली।

github llama.cpp · 14 दिन पहले

llama.cpp ने rope_back ऑपरेटर और क्रॉस-प्लेटफ़ॉर्म बाइनरी के साथ b9690 जारी किया

llama.cpp संस्करण b9690 में एक rope_back ऑपरेटर पेश किया गया है, जिसे मौजूदा rope kernels को पुन: उपयोग करके और फॉरवर्ड/बैकवर्ड रोटेशन टॉगल करने के लिए एक फ़ंक्शन कॉन्स्टेंट का उपयोग करके लागू किया गया है। इस रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए प्रीबिल्ट बाइनरी शामिल हैं, जो कई आर्किटेक्चर और Vulkan, CUDA, ROCm, OpenVINO और SYCL सहित हार्डवेयर एक्सेलरेशन विकल्पों पर उपलब्ध हैं।

github llama.cpp · 14 दिन पहले

llama.cpp Release b9687 Adds New Binaries and Fixes

llama.cpp version b9687 introduces new binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures. The release includes support for Vulkan, ROCm, OpenVINO, SYCL, and HIP, with updates to improve device validation and performance on available hardware.

github llama.cpp · 14 दिन पहले

llama.cpp ने नए APIs और क्रॉस-प्लेटफ़ॉर्म बाइनरी के साथ संस्करण b9688 जारी किया

llama.cpp ने मॉडल प्रबंधन और SSE रियलटाइम अपडेट्स APIs जोड़ते हुए संस्करण b9688 जारी किया है। इस रिलीज़ में macOS, Linux, Android, Windows, और openEuler के लिए प्रीबिल्ट बाइनरी शामिल हैं, जो विभिन्न आर्किटेक्चर्स और Vulkan, CUDA, OpenVINO, और SYCL जैसे एक्सेलरेशन फ्रेमवर्क्स का समर्थन करती हैं।

github llama.cpp · 14 दिन पहले

LLaMA.cpp Release b9685 Adds SYCL Dev2Dev Memcpy and Multiple Platform Binaries

LLaMA.cpp version b9685 introduces SYCL-based dev2dev memcpy functionality, moving GGML_SYCL_DEV2DEV_MEMCPY to runtime table and improving peer-to-peer communication detection. The release includes precompiled binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures and APIs including Vulkan, ROCm, OpenVINO, and SYCL (FP32/FP16).

github llama.cpp · 14 दिन पहले

llama.cpp बर्नच b9686: Eagle3 के लिए लंबे प्रॉम्प्ट्स पर सेगफ़ॉल्ट को ठीक करता है

llama.cpp संस्करण b9686 ने Eagle3 मॉडल पर लंबे प्रॉम्प्ट्स के साथ होने वाले सेगफ़ॉल्ट त्रुटि को ठीक किया है। रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए कई आर्किटेक्चर और Vulkan, CUDA, OpenVINO, और SYCL सहित हार्डवेयर एक्सेलरेशन विकल्पों के लिए बाइनरी शामिल हैं।

github llama.cpp · 14 दिन पहले

LLaMA.cpp Release b9684 Adds Conv_3D and Multiple Platform Binaries

LLaMA.cpp release b9684 introduces a new 3D convolution operation (conv_3d) and includes optimized implementations. The release provides prebuilt binaries for macOS, Linux, Android, Windows, and openEuler across various architectures and hardware acceleration options, including SYCL, Vulkan, CUDA, and OpenVINO.

github llama.cpp · 14 दिन पहले

llama.cpp b9682 रिलीज में Vulkan समर्थन और नए प्लेटफ़ॉर्म बाइनरी शामिल हैं

llama.cpp संस्करण b9682 ने Linux और Windows के लिए Vulkan समर्थन पेश किया है, जिससे GPU त्वरण सक्षम हो गया है। इस रिलीज में कई आर्किटेक्चर पर macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं, जिनमें CPU और GPU विकल्पों में CUDA, OpenVINO, SYCL और ROCm शामिल हैं।

github llama.cpp · 14 दिन पहले

LLaMA.cpp b9678 रिलीज में अनुकूलन और क्रॉस-प्लेटफ़ॉर्म बिल्ड्स जोड़े गए

LLaMA.cpp रिलीज b9678 में decode के लिए mul_mat_f16_f32_l4 का अनुकूलन शामिल है और macOS, Linux, Android, Windows, और openEuler के लिए नए बिल्ड्स पेश किए गए हैं। इस रिलीज में कई आर्किटेक्चरों पर CPU, Vulkan, ROCm, OpenVINO, SYCL, और HIP समर्थन उपलब्ध है, जिसमें एक समर्पित UI पैकेज भी शामिल है।

github llama.cpp · 14 दिन पहले

llama.cpp बर्नच b9677: अपडेट और क्रॉस-प्लेटफ़ॉर्म बाइनरी

llama.cpp संस्करण b9677 ने लॉगिंग को max_capacity लागू करने के लिए अपडेट किया है और क्यू एक्सपेंशन तर्क को हटा दिया है। रिलीज़ में macOS, Linux, Android, Windows और openEuler के लिए बाइनरी शामिल हैं, जो विभिन्न आर्किटेक्चर और Vulkan, CUDA, OpenVINO और SYCL सहित हार्डवेयर एक्सेलरेशन विकल्पों पर उपलब्ध हैं।

github llama.cpp · 14 दिन पहले

LLaMA.cpp ने b9674 जारी किया: Async memcpy बग को ठीक किया और नए बाइनरी जोड़े

LLaMA.cpp संस्करण b9674 ने MoE prefill के दौरान SYCL के async memcpy में use-after-free बग को ठीक किया। रिलीज़ में macOS, Linux, Android, Windows, और openEuler के लिए बाइनरी शामिल हैं, जो कई आर्किटेक्चर पर CPU, Vulkan, ROCm, OpenVINO, SYCL, और CUDA का समर्थन करती हैं।