本論文は、FedOPALを紹介する。これは、既存の1ショット連合学習手法の制限に対処するために設計されたフレームワークであり、解析的集約とビジュアルプロンプト調整を組み合わせている。非独立同分布データ環境における特徴量分布の不一致を補正するため、特徴量修正子としてビジュアルプロンプトを適応させる。
- ローカル近接制約を使用して、異種データ分布を線形分離可能な空間に積極的に補正するようビジュアルプロンプトを適応させる。
- 最小二乗閉形式解を通じた効率的な勾配なし集約を可能にし、反復的微調整や知識蒸留の必要性を排除する。
- 最先端の反復的手法と同等の精度を維持しながら、サーバー側のトレーニングコストをゼロにする。
- 複数のベンチマークにおいて元の解析的手法を大幅に上回る。
FedOPALは、連合学習における通信帯域幅のボトルネックと静的特徴量仮定との矛盾を解決することで、エッジでの大規模モデルの効率的な共同作業のための新たなエンジニアリングパラダイムを提供する。