Tencent выпустила веса для своей модели Hy4-preview, конкретно вариант 770B-A49B. Модель теперь доступна на Hugging Face.
media
r/LocalLLaMA
·
1 ч назад
·
open_models
Tencent выпустила веса Hy4-preview 770B-A49B
Переведено с English → Русский
Похожие статьи
lab
Tencent Hunyuan (HF)
·
только что
Live
Tencent выпустила модель MoE Hy4-preview с 770B параметров
Команда Tencent Hy открыла исходный код Hy4-preview, флагманской модели нового поколения Mixture-of-Experts, включающей 770B общих параметров и активирующей 49B на токен. Архитектура состоит из 78 слоев: первый использует плотную FFN, а остальные 77 — MoE с 256 маршрутизируемыми экспертами, а также нативный слой MTP для спекулятивного декодирования.
lab
Tencent Hunyuan (HF)
·
1 ч назад
·
6 просмотров
Live
Tencent выпустила предварительную версию MoE-модели Hy4 с 770B параметров
Команда Tencent Hy открыла исходный код Hy4 preview — флагманской модели нового поколения Mixture-of-Experts, состоящей из 770B общих параметров, из которых на каждый токен активируется 49B. Архитектура включает 78 слоёв: первый использует плотную FFN, а остальные 77 применяют MoE с 256 маршрутизируемыми экспертами, а также нативный слой MTP для спекулятивного декодирования.
lab
Tencent Hunyuan (HF)
·
3 д назад
·
6 просмотров
Tencent выпустила мультимодельную модель встраивания WeMM-Embedding-2B
Tencent выпустила WeMM-Embedding-2B, универсальную мультимодельную модель встраивания, созданную на базе Qwen3.5, которая принимает текст, изображения, видео, визуальные документы и чередующиеся входные данные для возврата 2048-мерных L2-нормализованных векторов.
lab
Tencent Hunyuan (HF)
·
3 д назад
·
15 просмотров
Tencent выпустила универсальную мультимодельную модель встраивания WeMM-Embedding-4B
Tencent выпустила WeMM-Embedding-4B, универсальную мультимодельную модель встраивания на базе Qwen3.5, которая принимает текст, изображения, видео, визуальные документы и чередующиеся входные данные для возврата 2560-мерных L2-нормализованных векторов.
lab
Tencent Hunyuan (HF)
·
3 д назад
·
17 просмотров
Tencent выпустила универсальную мультимодельную модель встраивания WeMM-Embedding-9B
Компания Tencent выпустила универсальную мультимодельную модель встраивания WeMM-Embedding-9B, созданную на базе Qwen3.5 и принимающую текст, изображения, видео, визуальные документы и чередующиеся входные данные для возврата 4096-мерных L2-нормализованных векторов.