शोधकर्ताओं ने ग्राफ कन्वोल्यूशनल एटेंशन (GCA) का परिचय दिया, जो इनपुट ग्राफ स्पेक्ट्रम का उपयोग करके ग्राफ डीनोइजिंग में रैखिक एटेंशन की सीमाओं को दूर करता है। अध्ययन से पता चलता है कि मानक रैखिक एटेंशन अनुकूल नहीं है क्योंकि यह केवल एक औसत स्पेक्ट्रल डीनोइजिंग फिल्टर सीख सकता है, जो ग्राफ्स के वितरण में स्पेक्ट्रली भिन्न होने पर विफल हो जाता है।
- GCA ग्राफ-फिल्टर्ड क्वेरीज़ और कीज़ के माध्यम से स्पेक्ट्रल डीनोइजिंग लागू करता है, जो स्पेक्ट्रल विविधता द्वारा नियंत्रित मार्जिन द्वारा रैखिक एटेंशन को सिद्ध रूप से बेहतर बनाता है।
- स्टोकेस्टिक ब्लॉक मॉडल्स के लिए, GCA सिद्ध रूप से आदर्श स्पेक्ट्रल एटेंशन तंत्र से मेल खाता है।
- GCA में सॉफ्टमैक्स ऑपरेशन अशुद्ध आयगनवेक्टरों को स्वच्छ आयगेस्पेस पर लगभग प्रक्षेपित करके अतिरिक्त डीनोइजिंग प्रदान करता है।
- रैखिक एटेंशन को GCA से बदलने से संयुक्त और वास्तविक डेटासेट्स पर ग्राफ डीनोइजिंग और डिफ्यूजन में निरंतर सुधार होता है।
- DiGress में, GCA महंगे संरचनात्मक फीचर्स की गणना किए बिना मानक ग्राफ-ट्रान्सफॉर्मर प्रदर्शन से मेल खाता है।
- PEARL पोजिशनल एनकोडिंग्स के साथ संयुक्त, GCA स्पष्ट आयगेडीकंपोजिशन कंप्यूटेशन से बचता है, जिससे गुणवत्ता को बिगाड़े बिना तेज़ इनफरेंस प्राप्त होता है।
लेखकों का मानना है कि यह महत्वपूर्ण है क्योंकि यह एटेंशन-आधारित ग्राफ डीनोइजिंग के लिए एक सिद्धांतवादी समझ प्रदान करता है और एक व्यावहारिक कार्यान्वयन पेश करता है जो प्रदर्शन को बेहतर बनाता है और कंप्यूटेशनल लागतों को कम करता है।