github vLLM · hace 1 h · inference

v0.29.0rc2 corrige la caché del trabajador SHM para elementos cubiertos por prefijo

Traducido del English → Español

La versión v0.29.0rc2 incluye una corrección de error para la caché del trabajador SHM con el fin de manejar correctamente los elementos cubiertos por prefijo.

Resuelve un problema donde los elementos cubiertos por prefijo no se manejaban correctamente en la caché del trabajador SHM.

Importancia 1/3 Confianza 2/3 vLLM Multimodal

Leer original

DeepSeek lanza DeepSeek-V4-Flash-Vision-Exp en Hugging Face

DeepSeek ha publicado el checkpoint del modelo DeepSeek-V4-Flash-Vision-Exp en Hugging Face. El repositorio ya está disponible para acceso público.

media MarkTechPost · hace 8 d · 27 vistas

El equipo de Qwen de Alibaba lanza Qwen3.8-Flash-Next, una vista previa de 125B que antecede a Qwen4

El equipo de Qwen de Alibaba ha lanzado Qwen3.8-Flash-Next, un modelo Mixture-of-Experts multimodal de pesos abiertos diseñado para anticipar la arquitectura de la próxima serie Qwen4. El punto de control combina una columna vertebral de 125B con una tabla de incrustaciones N-gram de 51B y un módulo de predicción multi-token de 4B, activando solo 6B parámetros por token.

media r/LocalLLaMA · hace 8 d · 37 vistas

Zhipu AI lanza GLM-5.3-Flash, un modelo de peso abierto multimodal

Zhipu AI ha lanzado GLM-5.3-Flash, el primer modelo nativamente multimodal de la serie GLM-5 y el primer lanzamiento de peso abierto de la arquitectura glm5_next. El modelo de 320B parámetros se entrena en un corpus multimodal de 30T tokens y presenta un mecanismo de atención híbrido disperso y lineal para reducir los costos de servicio de contexto largo.

lab Zhipu / Z.ai (GLM, HF) · hace 8 d · 32 vistas

Zai lanza GLM-5.3-Flash, un modelo multimodal de 320B con atención lineal dispersa

Zai ha presentado GLM-5.3-Flash, el primer modelo nativamente multimodal de la serie GLM-5. Cuenta con una arquitectura híbrida que combina atención dispersa y lineal para reducir los costos de servicio de contextos largos mientras mantiene capacidades precisas.

lab Zhipu / Z.ai (GLM, HF) · hace 8 d · 28 vistas

ZhiPu lanza GLM-5.3-Flash, un modelo multimodal de 320B parámetros

ZhiPu presenta GLM-5.3-Flash, el primer modelo nativamente multimodal de la serie GLM-5, que cuenta con una arquitectura híbrida que combina atención dispersa y lineal para reducir los costos de servicio de contexto largo mientras preserva la precisión.