研究人员推出了 ConceptSMILE，这是一个模型无关的、基于扰动的审计框架，旨在评估可解释 AI 中基于概念的可靠性的可靠性。该系统通过测量响应偏移并拟合 XGBoost 代理模型，将扰动逻辑从特征级归因扩展到人类可理解的概念。

  • 通过归因准确性、代理保真度、忠实性、稳定性和一致性来评估可靠性。
  • 在视网膜眼底图像上的评估比较了由 MedSAM 导出的视觉概念与基于 VLM 的语义概念。
  • MedSAM 实现了更强的空间归因和最高的代理保真度（$R^2 = 0.8503$, $R_w^2 = 0.8465$）。
  • VLM 路径在选定的伪影条件下表现出更强的血管忠实性和稳定性。

ConceptSMILE 提供了一个独立的审计层，用于评估基于概念的可解释 AI 的可靠性。