टेंसेंट ने अपने Hy4-preview मॉडल के लिए वेट्स जारी किए हैं, विशेष रूप से 770B-A49B वेरिएंट। मॉडल अब Hugging Face पर उपलब्ध है।
टेंसेंट ने Hy4-preview 770B-A49B वेट्स जारी किए
टेंसेंट ने 770B पैरामीटर वाले Hy4-preview MoE मॉडल को जारी किया
टेंसेंट हाई टीम ने Hy4-preview को ओपन-सोर्स किया है, जो एक नई पीढ़ी का मिक्स्चर-ऑफ-एक्सपर्ट्स फ्लैगशिप मॉडल है जिसमें कुल 770B पैरामीटर हैं और प्रति टोकन 49B सक्रिय होते हैं। इसकी आर्किटेक्चर में 78 लेयर्स हैं जिनमें पहला लेयर एक डेंस FFN का उपयोग करता है और शेष 77 लेयर्स 256 राउटेड एक्सपर्ट्स के साथ MoE का उपयोग करते हैं, साथ ही स्पेकुलेटिव डिकोडिंग के लिए एक नेटिव MTP लेयर भी है।
टेंसेंट ने 770B पैरामीटर वाले Hy4 प्रीव्यू MoE मॉडल को जारी किया
टेंसेंट हाई टीम ने Hy4 प्रीव्यू को ओपन-सोर्स किया है, जो एक नई पीढ़ी का मिक्स्चर-ऑफ-एक्सपर्ट्स फ्लैगशिप मॉडल है जिसमें कुल 770B पैरामीटर हैं और प्रति टोकन 49B सक्रिय होते हैं। इस आर्किटेक्चर में 78 परतें हैं जिनमें से पहली एक घनी FFN का उपयोग करती है और शेष 77 MoE का उपयोग करते हुए 256 राउटेड एक्सपर्ट्स के साथ, अनुमानित डिकोडिंग के लिए एक नेटिव MTP परत भी शामिल है।
टेंसेंट ने WeMM-Embedding-2B मल्टीमोडल एम्बेडिंग मॉडल जारी किया
टेंसेंट ने Qwen3.5 पर बनाए गए WeMM-Embedding-2B, एक सार्वभौमिक मल्टीमोडल एम्बेडिंग मॉडल को जारी किया है जो पाठ, छवियों, वीडियो, दृश्य दस्तावेज़ों और इंटरलीव्ड इनपुट को स्वीकार करता है और 2,048-आयामी L2-सामान्यीकृत एम्बेडिंग लौटाता है।
टेंसेंट ने WeMM-Embedding-4B सार्वभौमिक बहुआयामी एम्बेडिंग मॉडल जारी किया
टेंसेंट ने Qwen3.5 पर निर्मित एक सार्वभौमिक बहुआयामी एम्बेडिंग मॉडल WeMM-Embedding-4B जारी किया है, जो पाठ, छवियों, वीडियो, दृश्य दस्तावेज़ों और अंतर्भूत इनपुट को स्वीकार करता है और 2,560-आयामी L2-सामान्यीकृत एम्बेडिंग लौटाता है।
टेंसेंट ने WeMM-Embedding-9B सार्वभौमिक बहुआयामी एम्बेडिंग मॉडल जारी किया
टेंसेंट ने Qwen3.5 पर बनाया गया एक सार्वभौमिक बहुआयामी एम्बेडिंग मॉडल WeMM-Embedding-9B जारी किया है, जो पाठ, छवियों, वीडियो, दृश्य दस्तावेजों और इंटरलीव्ड इनपुट को स्वीकार करता है और 4,096-आयामी L2-सामान्यीकृत एम्बेडिंग लौटाता है।