v0.25.0rc3 版本包含一项错误修复,解决了 MTP 推测解码中 PD 异步 KV 加载的 lookahead 处理问题。

  • 解决了 MTP 推测解码中 PD 异步 KV 加载 lookahead 处理的具体问题。