أطلقت تينسنت أوزان نموذجها Hy4-preview، وتحديداً المتغير 770B-A49B. النموذج متاح الآن على Hugging Face.
تينسنت تطلق أوزان Hy4-preview 770B-A49B
تينسنت تطلق نموذج Hy4-preview من نوع MoE بـ 770 مليار معلمة
قام فريق Tencent Hy بنشر نموذج Hy4-preview، وهو نموذج رائد جديد من نوع Mixture-of-Experts يتكون من إجمالي 770 مليار معلمة مع تفعيل 49 مليار منها لكل توكن. يتميز الهيكل المعماري بوجود 78 طبقة، حيث تستخدم الأولى FFN كثيفاً بينما تستخدم الطبقات الـ 77 المتبقية MoE مع 256 خبيراً موجهاً، بالإضافة إلى طبقة MTP أصلية للترميز التخميني.
تينسنت تطلق نموذج Hy4 preview من نوع MoE بـ 770 مليار معلمة
قام فريق Tencent Hy بنشر نموذج Hy4 preview، وهو نموذج رائد جديد من نوع Mixture-of-Experts يتكون من 770B إجمالي معلمات مع تفعيل 49B لكل توكن. يتميز الهيكل المعماري بـ 78 طبقة حيث تستخدم الأولى FFN كثيف بينما تستخدم الطبقات الـ 77 المتبقية MoE مع 256 خبيرًا موجهًا، بالإضافة إلى طبقة MTP أصلية للترميز التخميني.
تencent تطلق نموذج التضمين متعدد الوسائط WeMM-Embedding-2B
أطلقت Tencent نموذج التضمين متعدد الوسائط الشامل WeMM-Embedding-2B، المبني على Qwen3.5، والذي يقبل النصوص والصور ومقاطع الفيديو والمستندات المرئية والإدخالات المتداخلة لإرجاع تضمينات L2-mormalized ذات الأبعاد 2,048.
تينسنت تطلق نموذج التضمين متعدد الوسائط الشامل WeMM-Embedding-4B
أطلقت تينسنت نموذج التضمين متعدد الوسائط الشامل WeMM-Embedding-4B، المبني على Qwen3.5، والذي يقبل النصوص والصور ومقاطع الفيديو والمستندات المرئية والإدخالات المتشابكة لإرجاع تضمينات L2-mormalized ذات الأبعاد 2,560.
تencent تطلق نموذج التضمين متعدد الوسائط العام WeMM-Embedding-9B
أطلقت Tencent نموذج التضمين متعدد الوسائط العام WeMM-Embedding-9B، المبني على Qwen3.5، والذي يقبل النصوص والصور ومقاطع الفيديو والمستندات المرئية والإدخالات المتداخلة لإرجاع تضمينات L2-normalized ذات الأبعاد 4,096.