ConceptSMILE audita a confiabilidade da IA explicável baseada em conceitos

Pesquisadores introduzem o ConceptSMILE, um framework de auditoria baseado em perturbação e agnóstico ao modelo, projetado para avaliar a confiabilidade de explicações baseadas em conceitos na IA explicável. O sistema estende a lógica de perturbação da atribuição em nível de feature para conceitos compreensíveis por humanos, medindo deslocamentos na resposta e ajustando um surrogate XGBoost.

• A confiabilidade é avaliada através da precisão da atribuição, fidelidade do surrogate, veracidade, estabilidade e consistência.
• A avaliação em imagens de fundo de retina compara conceitos visuais derivados do MedSAM com conceitos semânticos baseados em VLM.
• O MedSAM alcança uma atribuição espacial mais forte e a maior fidelidade do surrogate ($R^2 = 0.8503$, $R_w^2 = 0.8465$).
• A via VLM demonstra maior veracidade e estabilidade dos vasos sob condições de artefato selecionadas.

O ConceptSMILE fornece uma camada de auditoria independente para avaliar a confiabilidade da IA explicável baseada em conceitos.