著者らは、FedKT-CSDを提案しました。これは、クライアントのデータ分布が乖離する際にモデルの品質とプライバシーを維持するという課題に対処するためのワンショット連合学習フレームワークです。この手法は、公開された事前学習済みオートエンコーダーを使用して共有潜在空間を作成し、クライアントがプライベートデータをエンコードしてクラス条件付き統計量を伝送します。

  • クライアントは単順フォワードパスを実行して潜在統計量を計算し、クライアント側の計算を軽量に保ちます。
  • サーバーは安全な集約を通じてこれらの統計量を統合し、較正された微分プライバシーノイズを追加します。
  • 集約された統計量から合成データセットをデコードし、グローバルモデルのトレーニングを行います。
  • この設計により、構成により形式的な $(\varepsilon,\delta)$-微分プライバシーが提供されます。

FedKT-CSDは多数のクライアントにスケーリング可能であり、多様なデータセットと非均質性設定において非プライベートなベースラインと同等か、それを超える性能を発揮します。