ConceptSMILE, 개념 기반 설명 가능한 AI의 신뢰성 감사

연구자들은 설명 가능한 AI에서 개념 기반 설명의 신뢰성을 평가하도록 설계된 모델 비종속 섭동 기반 감사 프레임워크인 ConceptSMILE을 소개했습니다. 이 시스템은 응답 변화를 측정하고 XGBoost 서러게이트에 적합시킴으로써 특징 수준 귀속에서 인간이 이해할 수 있는 개념으로 섭동 논리를 확장합니다.

• 신뢰성은 귀속 정확도, 서러게이트 충실도, 신빙성, 안정성 및 일관성을 통해 평가됩니다.
• 망막 안저 이미지에 대한 평가는 MedSAM 기반 시각적 개념과 VLM 기반 의미론적 개념을 비교합니다.
• MedSAM은 더 강력한 공간적 귀속과 가장 높은 서러게이트 충실도($R^2 = 0.8503$, $R_w^2 = 0.8465$)를 달성했습니다.
• VLM 경로는 선택된 아티팩트 조건 하에서 더 강력한 혈관 신빙성과 안정성을 보여줍니다.

ConceptSMILE은 개념 기반 XAI의 신뢰성을 평가하기 위한 독립적인 감사 계층을 제공합니다.