Tencent ha liberado los pesos de su modelo Hy4-preview, específicamente la variante 770B-A49B. El modelo ya está disponible en Hugging Face.
Tencent libera los pesos de Hy4-preview 770B-A49B
Tencent lanza el modelo MoE Hy4-preview con 770B de parámetros
El equipo Tencent Hy ha liberado como código abierto Hy4-preview, un nuevo modelo insignia Mixture-of-Experts de nueva generación que comprende 770B de parámetros totales con 49B activados por token. La arquitectura cuenta con 78 capas donde la primera utiliza una FFN densa y las restantes 77 usan MoE con 256 expertos enrutados, junto a una capa nativa MTP para decodificación especulativa.
Tencent lanza la versión preliminar del modelo MoE Hy4 con 770B parámetros
El equipo Tencent Hy ha liberado como código abierto Hy4 preview, un nuevo modelo insignia de Mezcla de Expertos (Mixture-of-Experts) de nueva generación que comprende 770B de parámetros totales con 49B activados por token. La arquitectura cuenta con 78 capas donde la primera utiliza una FFN densa y las restantes 77 usan MoE con 256 expertos enrutados, junto con una capa nativa MTP para descodificación especulativa.
Tencent lanza el modelo de incrustación multimodal WeMM-Embedding-2B
Tencent ha lanzado WeMM-Embedding-2B, un modelo universal de incrustación multimodal basado en Qwen3.5 que acepta texto, imágenes, videos, documentos visuales y entradas entrelazadas para devolver incrustaciones L2-normalizadas de 2,048 dimensiones.
Tencent lanza el modelo de incrustación multimodal universal WeMM-Embedding-4B
Tencent ha lanzado WeMM-Embedding-4B, un modelo de incrustación multimodal universal basado en Qwen3.5 que acepta texto, imágenes, videos, documentos visuales y entradas intercaladas para devolver incrustaciones L2-normalizadas de 2.560 dimensiones.
Tencent lanza el modelo de incrustación multimodal universal WeMM-Embedding-9B
Tencent ha lanzado WeMM-Embedding-9B, un modelo de incrustación multimodal universal basado en Qwen3.5 que acepta texto, imágenes, videos, documentos visuales y entradas entrelazadas para devolver incrustaciones L2-normalizadas de 4.096 dimensiones.