El Transformador Adaptativo Extremo (Exformer) es un nuevo marco de predicción diseñado para modelar explícitamente las dependencias temporales que involucran tanto eventos normales como extremos en datos de series temporales.
- Exformer utiliza un mecanismo de atención adaptativa extrema compuesto por tres componentes dispersos: Local, Stride y Extreme.
- Los componentes Local y Stride capturan respectivamente las dependencias temporales a corto plazo y periódicas.
- El componente Extreme modela selectivamente las dependencias conscientes del evento entre patrones de caudal normales y extremos.
- Exformer logra un rendimiento superior en la predicción a 3 días en cuatro conjuntos de datos reales de caudal hidrológico en comparación con las líneas base más avanzadas.
Los hallazgos demuestran que incorporar explícitamente una atención consciente de lo extremo mejora la capacidad de predicción de los modelos Transformer en series temporales desequilibradas con eventos raros pero consecuentes.