Qwen ने अपने Qwen 3.8 27B मॉडल के लिए ओपन वेट्स जारी किए हैं। चेकपॉइंट Hugging Face पर उपलब्ध है।
media
r/LocalLLaMA
·
47 दिन पहले
·
open_models
Qwen ने Qwen 3.8 27B के लिए ओपन वेट्स जारी किए
अनुवादित English → हिन्दी
संबंधित लेख
media
r/LocalLLaMA
·
2 दिन पहले
·
19 बार देखा गया
ISTA ने Qwen3.8-Flash-Next और 50% विशेषज्ञ-कटाई वाले कोडर बिल्ड के लिए GSQ-RCO GGUF जारी किए
ISTA डीप एल्गोरिदम और सिस्टम्स लैब ने विरल मिक्स्चर-ऑफ़-एक्सपर्ट्स मॉडल Qwen3.8-Flash-Next के क्वांटाइज्ड GGUF संस्करण जारी किए हैं, साथ ही एक प्रयोगात्मक क्षमता-लक्षित बिल्ड भी जारी की गई है जिसमें इसके आधे विशेषज्ञों को हटा दिया गया है।
arxiv
arXiv cs.LG
·
38 दिन पहले
·
47 बार देखा गया
क्वांटीज़ेशन-अवेयर हीलिंग QAT से तेज़ी से 4-बिट LLMs को पुनर्स्थापित करता है
लेखकों ने क्वांटीज़ेशन-अवेयर हीलिंग (QAH) पेश किया, एक पाइलाइन जो संरचनात्मक संपीड़न और क्वांटीज़ेशन के दौरान खोए गए प्रदर्शन को पुनर्स्थापित करने के लिए अदबाई मॉडलों से सीधे 4-बिट छात्रों को डिस्टिल करता है। GPT-OSS 120B पर लागू, यह विधि Hypernova-60B उत्पन्न करती है, जो 9 में से 7 बेंचमार्क्स पर bfloat16 स्रोत के बराबर या बेहतर प्रदर्शन देता है जबकि लगभग 4 गुना कम वजन मेमोरी का उपयोग करता है।
arxiv
arXiv cs.CL
·
38 दिन पहले
·
49 बार देखा गया
क्वांटीज़ेशन-अवेयर हीलिंग QAT से तेज़ी से 4-बिट LLMs को पुनर्स्थापित करता है
लेखकों ने क्वांटीज़ेशन-अवेयर हीलिंग (QAH) पेश किया, एक विधि जो संरचनात्मक रूप से संपीड़ित, 4-बिट बड़े भाषा मॉडलों में तर्क और कोडिंग क्षमताओं को पुनर्स्थापित करती है। मानक क्वांटीज़ेशन-अवेयर ट्रेनिंग के विपरीत जो संपीड़ित मॉडल को फिर से फिट करता है, QAH 4-बिट छात्र को सीधे मूल असंपीड़ित मॉडल से डिस्टिल करता है।
media
MarkTechPost
·
75 दिन पहले
·
67 बार देखा गया
PrismML ने Bonsai 27B जारी किया, Qwen3.6-27B को 1-बिट और टर्नरी वजन में संपीड़ित किया
PrismML ने Bonsai 27B जारी किया है, जो Qwen3.6-27B मॉडल का एक लो-बिट क्वांटाइजेशन है जो बिना पुनः प्रशिक्षण के लैपटॉप और फोन पर बड़े बहुआयामी मॉडल चलाने की सुविधा देता है।
media
r/LocalLLaMA
·
77 दिन पहले
·
24 बार देखा गया
UD-Q2_K_XL में Qwen3.5 122B A10B, 64GB RAM में फिट होता है और आंतरिक ज्ञान में सुधार करता है
एक उपयोगकर्ता प्रदर्शित करता है कि UD-Q2_K_XL के साथ क्वांटाइज़ किया गया Qwen3.5 122B A10B, 64GB सिस्टम RAM में फिट हो सकता है, जिससे उस प्रतिबंध के लिए पिछला सर्वोत्तम विकल्प बदल जाता है।