极端自适应变换器(Exformer)是一个新的预测框架,旨在显式建模时间序列数据中涉及正常事件和极端事件的时间依赖关系。

  • Exformer 利用由三个稀疏组件组成的极端自适应注意力机制:Local、Stride 和 Extreme。
  • Local 和 Stride 组件分别捕捉短期和周期性时间依赖关系。
  • Extreme 组件选择性地对正常和极端径流模式之间的事件感知依赖关系进行建模。
  • 与最先进的基线模型相比,Exformer 在四个真实世界的水文径流数据集上实现了卓越的3天预测性能。

研究结果表明,显式引入极端感知注意力提高了 Transformer 模型在不平衡时间序列(包含罕见但具有重大影响的)事件上的预测能力。