本論文では、ADORNを紹介しています。これはQ学習に基づく適応的再トレーニング手法で、動的なトラフィック変動やOpen Radio Access Networks (O-RAN)におけるドリフトによって引き起こされるパフォーマンスの劣化を軽減するために設計されています。再トレーニングの決定をマルコフ決定過程として定式化することで、強化学習エージェントは予測精度と再トレーニングコストのバランスを取る方策を学習します。
- システムは壊滅的忘却を緩和し、多様なトラフィック条件全体での堅牢性を向上させるために、マルチエキスパートLong Short-Term Memory (LSTM) アンサンブルを組み込んでいます。
- 実験結果は、ADORNが貪欲法やランダムなベースラインと比較して再トレーニングのオーバーヘッドを効果的に削減しつつ、システムのパフォーマンスを事前に定義された制限内に維持することを示しています。
このアプローチは、O-RAN環境における従来の再トレーニング方法に関連する高い計算コストと潜在的なService Level Agreement違反に対処します。