Extreme-Adaptive Transformer (Exformer) adalah kerangka kerja peramalan baru yang dirancang untuk secara eksplisit memodelkan ketergantungan temporal yang melibatkan peristiwa normal dan ekstrem dalam data deret waktu.
- Exformer memanfaatkan mekanisme perhatian adaptif ekstrem yang terdiri dari tiga komponen jarang: Local, Stride, dan Extreme.
- Komponen Local dan Stride masing-masing menangkap ketergantungan temporal jangka pendek dan periodik.
- Komponen Extreme secara selektif memodelkan ketergantungan sadar peristiwa antara pola aliran normal dan ekstrem.
- Exformer mencapai kinerja peramalan 3 hari yang unggul pada empat dataset aliran hidrologi dunia nyata dibandingkan dengan baseline terkini.
Temuan tersebut menunjukkan bahwa secara eksplisit memasukkan perhatian sadar ekstrem meningkatkan kapasitas peramalan model Transformer pada deret waktu tidak seimbang dengan peristiwa langka namun konsekuensial.