पत्र में FedOPAL पेश किया गया है, जो मौजूदा एक-शॉट फेडरेटेड लर्निंग विधियों की सीमाओं को संबोधित करने के लिए विश्लेषणात्मक एग्रीगेशन और विज़ुअल प्रॉम्प्ट ट्यूनिंग को जोड़कर डिज़ाइन किया गया एक फ्रेमवर्क है। यह गैर-स्वतंत्र और समान रूप से वितरित (non-independent and identically distributed) डेटा वातावरण में फीचर वितरण असंरेखण को ठीक करने के लिए विज़ुअल प्रॉम्प्ट्स को फीचर रेक्टिफायर के रूप में अनुकूलित करता है।

  • स्थानीय प्रॉक्सिमल बाधाओं का उपयोग करके विषम डेटा वितरणों को सक्रिय रूप से एक रैखिक रूप से पृथक्करणीय स्थान में ठीक करने के लिए विज़ुअल प्रॉम्प्ट्स को अनुकूलित करता है।
  • न्यूनतम वर्ग बंद-रूप समाधानों के माध्यम से कुशल ग्रेडिएंट-मुक्त एग्रीगेशन सक्षम बनाता है, जिससे पुनरावर्ती फाइन-ट्यूनिंग या ज्ञान डिस्टिलेशन की आवश्यकता समाप्त हो जाती है।
  • राज्य-अग्रणी पुनरावर्ती विधियों के तुलनीय सटीकता बनाए रखते हुए शून्य सर्वर-साइड प्रशिक्षण लागत प्राप्त करता है।
  • कई बेंचमार्क्स पर मूल विश्लेषणात्मक विधियों की तुलना में काफी बेहतर प्रदर्शन करता है।

FedOPAL संचार बैंडविड्थ बाधाओं और विश्लेषणात्मक फेडरेटेड लर्निंग में स्थिर फीचर मान्यताओं के बीच विरोधाभास को हल करके किनारे पर बड़े मॉडलों के कुशल सहयोग के लिए एक नई इंजीनियरिंग पैराडाइम प्रदान करता है।