本文介绍了 FedOPAL,这是一个旨在通过结合分析性聚合与视觉提示微调来解决现有单轮联邦学习方法局限性的框架。它将视觉提示适配为特征校正器,以纠正非独立同分布数据环境中的特征分布错位。
- 利用局部近端约束,将异构数据分布主动校正到线性可分空间。
- 通过最小二乘闭式解实现高效的无梯度聚合,消除了对迭代微调或知识蒸馏的需求。
- 在保持与最先进迭代方法相当的准确率的同时,实现了零服务器端训练成本。
- 在多个基准测试中显著优于原始分析方法。
FedOPAL 为边缘设备上大模型的高效协作提供了新的工程范式,解决了分析性联邦学习中通信带宽瓶颈与静态特征假设之间的矛盾。