يقدم الباحثون ConceptSMILE، وهو إطار عمل للتدقيق يعتمد على الإرباك وغير مرتبط بنموذج معين، مصمم لتقييم موثوقية التفسيرات القائمة على المفاهيم في الذكاء الاصطناعي القابل للتفسير. يوسع النظام منطق الإرباك من النسب على مستوى الميزات إلى المفاهيم التي يمكن للبشر فهمها من خلال قياس تحولات الاستجابة وملاءمة نموذج بديل XGBoost.
- يتم تقييم الموثوقية من خلال دقة النسب، ووفاء النموذج البديل، والولاء، والاستقرار، والاتساق.
- تقارن التقييمات على صور قاع العين المفاهيم البصرية المستمدة من MedSAM مع المفاهيم الدلالية القائمة على VLM.
- حقق MedSAM نسبا مكانيا أقوى وأعلى وفاء للنموذج البديل ($R^2 = 0.8503$، $R_w^2 = 0.8465$).
- أظهرت مسار VLM ولاءً واستقرارا أقوى للأوعية الدموية تحت ظروف التشويش المختارة.
يوفر ConceptSMILE طبقة تدقيق مستقلة لتقييم موثوقية الذكاء الاصطناعي القابل للتفسير (XAI) القائم على المفاهيم.