研究人员提出了 FedKT-CSD,这是一个用于一次性联邦学习的框架,在保持模型质量的同时实现了严格的隐私保证。该方法利用公开预训练的自编码器创建共享潜在空间,允许客户端编码私有数据并仅传输类条件潜在统计量。

  • 客户端执行单次前向传递以计算潜在统计量,使客户端侧的计算和通信保持轻量级。
  • 服务器通过安全聚合汇总这些统计量,并添加校准的差分隐私噪声。
  • 从聚合统计量中解码合成数据集,以训练用于下游任务的全球模型。
  • 该设计通过构造提供形式化 $(\varepsilon,\delta)$-差分隐私。

FedKT-CSD 在各种数据集和异构设置中与基线相当并优于非隐私基线,有效扩展到大量客户端。