IsomapVSG-LIME:一种新的模型无关解释方法

摘要：

为了解决局部可解释模型无关的解释(local interpretable model-agnostic explanations,LIME)随机扰动采样方法导致产生的解释缺乏局部忠实性和稳定性的问题,本文提出了一种新的模型无关解释方法IsomapVSG-LIME.该方法使用基于流形学习的等距映射虚拟样本生成(isometric mapping virtual sample generation,Iso-mapVSG)方法代替LIME的随机扰动采样方法来生成样本,并使用凝聚层次聚类方法从虚拟样本中选择具有代表性的样本用以训练解释模型;本文还提出了一种新的解释稳定性评价指标——特征序列稳定性指数(fea-tures sequence stability index,FSSI),解决了以往评价指标忽略特征的序关系和解释翻转的问题.实验结果表明,本文提出的方法在稳定性和局部忠实性上均优于现有的最新模型.

关键词：局部可解释模型无关的解释、机器学习、等距映射虚拟样本生成、凝聚层次聚类、稳定性、局部忠实性、随机扰动采样、特征序列稳定性指数

所属期刊栏目：18

分类号：TP181(自动化基础理论)

资助基金：国家自然科学基金;国家自然科学基金;重庆英才计划

在线出版日期：2023-08-28（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：841-848