v0.29.0rc2 版本包含对 SHM 工作进程缓存的错误修复，以正确处理前缀覆盖项。
- 解决了在 SHM 工作进程缓存中未正确处理前缀覆盖项的问题。
github
vLLM
·
2 小时前
·
inference
v0.29.0rc2 修复了 SHM 工作进程缓存中前缀覆盖项的问题
译自 English → 中文
相关文章
media
r/LocalLLaMA
·
3 天前
·
1 次浏览
DeepSeek 在 Hugging Face 上发布 DeepSeek-V4-Flash-Vision-Exp
DeepSeek 已在 Hugging Face 上发布了 DeepSeek-V4-Flash-Vision-Exp 模型检查点。 该仓库现已公开可用。
media
MarkTechPost
·
8 天前
·
27 次浏览
阿里巴巴Qwen团队发布Qwen3.8-Flash-Next，预览Qwen4架构
阿里巴巴Qwen团队发布了Qwen3.8-Flash-Next，这是一个开源权重的多模态混合专家模型，旨在预览即将推出的Qwen4系列架构。该检查点将125B主干与51B N-gram嵌入表和4B多令牌预测模块配对，每个令牌仅激活6B参数。
media
r/LocalLLaMA
·
8 天前
·
37 次浏览
智谱AI发布GLM-5.3-Flash多模态开源权重模型
智谱AI发布了GLM-5.3-Flash，这是GLM-5系列中首个原生多模态模型，也是glm5_next架构的首个开源权重版本。该模型拥有320B参数，在包含30T token的多模态语料库上训练，并采用混合稀疏和线性注意力机制以降低长上下文推理成本。
lab
Zhipu / Z.ai (GLM, HF)
·
8 天前
·
32 次浏览
Zai发布GLM-5.3-Flash：一款具有稀疏线性注意力的320B多模态模型
Zai推出了GLM-5.3-Flash，这是GLM-5系列中首个原生多模态模型。它采用混合架构，结合稀疏和线性注意力机制，在保持精确能力的同时降低长上下文的服务成本。
lab
Zhipu / Z.ai (GLM, HF)
·
8 天前
·
28 次浏览
智谱发布 GLM-5.3-Flash，一款拥有 320B 参数的多模态模型
智谱推出 GLM-5.3-Flash，这是 GLM-5 系列中首个原生多模态模型，采用混合架构，结合稀疏注意力和线性注意力，在保持精度的同时降低长上下文服务成本。