github vLLM · il y a 1 h · inference

v0.29.0rc2 corrige le cache du travailleur SHM pour les éléments couverts par préfixe

Traduit de English → Français

La version v0.29.0rc2 inclut une correction de bug pour le cache du travailleur SHM afin de gérer correctement les éléments couverts par préfixe.

Résout un problème où les éléments couverts par préfixe n'étaient pas gérés correctement dans le cache du travailleur SHM.

Importance 1/3 Confiance 2/3 vLLM Multimodal

Lire l'original

DeepSeek publie DeepSeek-V4-Flash-Vision-Exp sur Hugging Face

DeepSeek a publié le checkpoint du modèle DeepSeek-V4-Flash-Vision-Exp sur Hugging Face. Le dépôt est désormais accessible au public.

media MarkTechPost · il y a 8 j · 27 vues

L'équipe Qwen d'Alibaba publie Qwen3.8-Flash-Next, une version préliminaire de 125B anticipant Qwen4

L'équipe Qwen d'Alibaba a publié Qwen3.8-Flash-Next, un modèle multimodal à experts mélangés (Mixture-of-Experts) à poids ouverts conçu pour anticiper l'architecture de la future série Qwen4. Le point de contrôle associe une colonne vertébrale de 125B à une table d'embeddings N-gram de 51B et un module de prédiction multi-jeton de 4B, n'activant que 6B de paramètres par jeton.

media r/LocalLLaMA · il y a 8 j · 37 vues

Zhipu AI publie GLM-5.3-Flash, un modèle open-weight multimodal

Zhipu AI a publié GLM-5.3-Flash, le premier modèle nativement multimodal de la série GLM-5 et la première version open-weight de l'architecture glm5_next. Le modèle à 320 milliards de paramètres est entraîné sur un corpus multimodal de 30 billions de tokens et intègre un mécanisme d'attention hybride combinant une attention linéaire et une attention creuse pour réduire les coûts de service sur des contextes longs.

lab Zhipu / Z.ai (GLM, HF) · il y a 8 j · 32 vues

Zai lance GLM-5.3-Flash, un modèle multimodal de 320B avec attention linéaire clairsemée

Zai a présenté GLM-5.3-Flash, le premier modèle nativement multimodal de la série GLM-5. Il dispose d'une architecture hybride combinant l'attention clairsemée et linéaire pour réduire les coûts de service des contextes longs tout en maintenant des capacités précises.

lab Zhipu / Z.ai (GLM, HF) · il y a 8 j · 28 vues

ZhiPub publie GLM-5.3-Flash, un modèle multimodal de 320 milliards de paramètres

ZhiPub présente GLM-5.3-Flash, le premier modèle nativement multimodal de la série GLM-5, doté d'une architecture hybride combinant l'attention sparse et linéaire pour réduire les coûts de service de contexte long tout en préservant la précision.