El artículo presenta FedOPAL, un marco diseñado para abordar las limitaciones de los métodos existentes de aprendizaje federado de un solo paso combinando agregación analítica con ajuste de prompts visuales. Adapta los prompts visuales como rectificadores de características para corregir el desalineamiento de la distribución de características en entornos de datos no independientes e idénticamente distribuidos.

  • Adapta los prompts visuales para corregir activamente las distribuciones de datos heterogéneas en un espacio linealmente separable utilizando restricciones proximales locales.
  • Permite una agregación eficiente libre de gradientes mediante soluciones cerradas por mínimos cuadrados, eliminando la necesidad de ajuste fino iterativo o destilación de conocimiento.
  • Logra costos de entrenamiento cero en el servidor mientras mantiene una precisión comparable a los métodos iterativos de última generación.
  • Supera significativamente a los métodos analíticos originales en varios benchmarks.

FedOPAL proporciona un nuevo paradigma de ingeniería para la colaboración eficiente de modelos grandes en el borde, resolviendo la contradicción entre las limitaciones del ancho de banda de comunicación y los supuestos estáticos de características en el aprendizaje federado analítico.