Prism-ML ने Ternary-Bonsai-27B मॉडल जारी किया है, जो Hugging Face पर GGUF चेकपॉइंट के रूप में उपलब्ध है।
यह रिलीज़ स्थानीय इनफरेंस के लिए GGUF फॉर्मेट के माध्यम से अनुकूलित Qwen 3.6 आर्किटेक्चर का 27 अरब पैरामीटर वाला संस्करण प्रदान करती है।
media
r/LocalLLaMA
·
45 दिन पहले
·
open_models
Prism-ML ने Bonsai Qwen 3.6 27B GGUF चेकपॉइंट जारी किए
अनुवादित English → हिन्दी
संबंधित लेख
github
llama.cpp
·
1 घंटे पहले
·
1 बार देखा गया
लाइव
llama.cpp b10677 में Vulkan view-alias निर्भरता बग ठीक किया गया
llama.cpp b10677 रिलीज ने Vulkan बैकएंड में एक गंभीर बग को संबोधित किया, जहाँ अनुपस्थित view-alias निर्भरताओं के कारण ग्राफ ऑप्टिमाइज़र नोड्स को गलत तरीके से पुनः क्रमित कर रहा था।
github
llama.cpp
·
2 घंटे पहले
·
1 बार देखा गया
llama.cpp b10676 ने ggml और Metal में कई बैचों के लिए conv_transpose_2d ठीक किया
llama.cpp बिल्ड b10676 ने `conv_transpose_2d` में एक बग को ठीक किया जहाँ केवल पहला बैच गणना किया गया था, और बाद के बैच शून्य रह गए। यह सुधार ggml लाइब्रेरी और Metal बैकएंड दोनों पर लागू होता है।
github
llama.cpp
·
4 घंटे पहले
·
1 बार देखा गया
llama.cpp b10673 में Apple M4 के लिए fa-vec ट्यूनिंग्स जोड़ी गईं
llama.cpp प्रोजेक्ट ने बिल्ड b10673 जारी किया, जिसमें Apple M4 हार्डवेयर के लिए विशिष्ट प्रदर्शन अनुकूलन शामिल हैं। यह अपडेट ggml-metal-tuning मॉड्यूल में fa_vec_tuned_table रिकॉर्ड्स को पेश करता है ताकि Metal बैकएंड की दक्षता बढ़ाई जा सके।
github
llama.cpp
·
5 घंटे पहले
·
2 बार देखा गया
llama.cpp b10670 Xe2 (BMG) पर क्वांटाइज्ड KV डिकोड को TILE की ओर रूट करता है
llama.cpp प्रोजेक्ट ने संस्करण b10670 जारी किया, जिसमें Intel के Xe2 आर्किटेक्चर के लिए एक विशिष्ट अनुकूलन शामिल है। अपडेट क्वांटाइज्ड की-वैल्यू (KV) डिकोड ऑपरेशन को BMG हार्डवेयर के लिए विशेष रूप से TILE बैकएंड की ओर रूट करता है, जबकि अन्य आर्किटेक्चर पर VEC बैकएंड को मान्य होने तक बनाए रखता है।
github
llama.cpp
·
6 घंटे पहले
·
3 बार देखा गया
llama.cpp b10672 में Whisper.cpp समर्थन, Qwen3.5 NPU सक्षमीकरण और OpenVINO 2026.3.1 अपडेट जोड़ा गया
llama.cpp प्रोजेक्ट ने बिल्ड b10672 जारी किया है, जिसने OpenVINO बैकएंड को संस्करण 2026.3.1 पर अपडेट किया और NPU पर Whisper.cpp मॉडल्स के लिए समर्थन जोड़ा।