研究人员推出了 Wan-Dancer,这是一个分层框架,可生成与音乐同步的长时长、高清舞蹈视频。该系统通过将生成分解为全局关键帧规划和局部时间细化,克服了扩散模型典型的 20 秒限制。

  • 利用全曲音乐上下文以确保长期连贯性。
  • 使用时序映射的 RoPE 嵌入实现动态帧率自适应,以实现精确对齐。
  • 采用基于光流的损失函数以增强动作连续性。
  • 包含运动速度控制,以便在快速移动期间保留高保真细节。
  • 生成超过一分钟的稳定 720p/30fps 视频,涵盖五种舞蹈类型。

该模型通过解决先前方法中发现的时间漂移和身份不一致问题,在连贯的长格式舞蹈视频合成方面确立了新的最先进水平。