शोधकर्ताओं ने ConceptSMILE पेश किया, जो एक मॉडल-अज्ञात विक्षोभ-आधारित ऑडिट फ्रेमवर्क है जिसे व्याख्या योग्य AI में अवधारणा-आधारित व्याख्याओं की विश्वसनीयता का आकलन करने के लिए डिज़ाइन किया गया है। सिस्टम प्रतिक्रिया परिवर्तनों को मापकर और एक XGBoost प्रतिस्थापन फिट करके, विशेषता-स्तर के अट्रिब्यूशन से मानव-समझ योग्य अवधारणाओं तक विक्षोभ तर्क का विस्तार करता है।
- विश्वसनीयता को अट्रिब्यूशन सटीकता, प्रतिस्थापन फिडेलिटी, विश्वासपात्रता, स्थिरता और संगति के माध्यम से आकलित किया जाता है।
- रेटिनल फंडस छवियों पर मूल्यांकन MedSAM-निर्मित दृश्य अवधारणाओं की तुलना VLM-आधारित अर्थपूर्ण अवधारणाओं से करता है।
- MedSAM ने मजबूत स्थानिक अट्रिब्यूशन और उच्चतम प्रतिस्थापन फिडेलिटी प्राप्त की ($R^2 = 0.8503$, $R_w^2 = 0.8465$)।
- VLM पथ ने चुने गए कलावस्था स्थितियों के तहत मजबूत नस विश्वासपात्रता और स्थिरता प्रदर्शित की।
ConceptSMILE अवधारणा-आधारित XAI की विश्वसनीयता का आकलन करने के लिए एक स्वतंत्र ऑडिट परत प्रदान करता है।