L'article présente FedOPAL, un cadre conçu pour pallier les limites des méthodes d'apprentissage fédéré en un seul tir existantes en combinant l'agrégation analytique et le réglage de prompts visuels. Il adapte les prompts visuels en tant que correcteurs de caractéristiques pour corriger le désalignement de la distribution des caractéristiques dans des environnements de données non indépendantes et identiquement distribuées (non-iid).
- Adapte les prompts visuels pour corriger activement les distributions de données hétérogènes vers un espace linéairement séparable en utilisant des contraintes proximales locales.
- Permet une agrégation sans gradient efficace grâce à des solutions analytiques par moindres carrés, éliminant le besoin de réglage fin itératif ou de distillation de connaissances.
- Atteint des coûts d'entraînement côté serveur nuls tout en maintenant une précision comparable aux méthodes itératives les plus avancées.
- Surpasse significativement les méthodes analytiques originales sur plusieurs benchmarks.
FedOPAL offre un nouveau paradigme d'ingénierie pour la collaboration efficace de grands modèles en périphérie (edge) en résolvant la contradiction entre les goulots d'étranglement de la bande passante de communication et les hypothèses de caractéristiques statiques dans l'apprentissage fédéré analytique.