vLLM 项目发布了 0.25.1 版本,其中包括对混合数据类型 allreduce RMSNorm 量化融合的 bug 修复。

  • 该更新解决了框架中混合数据类型 allreduce RMSNorm 量化融合的问题。