Makalah ini memperkenalkan FedOPAL, sebuah kerangka kerja yang dirancang untuk mengatasi keterbatasan metode pembelajaran federasi satu-shot yang ada dengan menggabungkan agregasi analitik dan penyetelan prompt visual. Ini mengadaptasi prompt visual sebagai pengoreksi fitur untuk meluruskan ketidaksesuaian distribusi fitur dalam lingkungan data yang tidak independen dan terdistribusi secara identikal (non-iid).

  • Mengadaptasi prompt visual untuk secara aktif meluruskan distribusi data heterogen ke dalam ruang yang dapat dipisahkan secara linear menggunakan batasan proksimal lokal.
  • Memungkinkan agregasi bebas gradien yang efisien melalui solusi bentuk tertutup kuadrat terkecil, menghilangkan kebutuhan akan penyetelan halus iteratif atau distilasi pengetahuan.
  • Mencapai nol biaya pelatihan sisi server sambil mempertahankan akurasi yang sebanding dengan metode iteratif terkini.
  • Secara signifikan mengungguli metode analitik asli pada beberapa benchmark.

FedOPAL menyediakan paradigma teknik baru untuk kolaborasi efisien model besar di tepi (edge) dengan menyelesaikan kontradiksi antara hambatan bandwidth komunikasi dan asumsi fitur statis dalam pembelajaran federasi analitik.