作者提出了 FedKT-CSD,这是一个一次性联邦学习框架,旨在解决当客户端数据分布发散时保持模型质量和隐私的挑战。该方法使用公开预训练的自编码器来创建共享的潜在空间,客户端在其中编码私有数据并传输类条件统计量。

  • 客户端执行单次前向传递以计算潜在统计量,使客户端侧的计算保持轻量级。
  • 服务器通过安全聚合汇总这些统计量,并添加校准过的差分隐私噪声。
  • 从聚合的统计量中解码出合成数据集,用于训练全局模型。
  • 该设计通过构造提供了形式化的 $(\varepsilon,\delta)$-差分隐私。

FedKT-CSD 可扩展至大量客户端,并在多样化的数据集和异构性设置下与或非私有基线方法相当或优于它们。