融合机器学习与知识推理的可解释性框架

摘要：

针对基于规则的可解释性模型可能出现的规则无法反映模型真实决策情况的问题, 提出了一种融合机器学习和知识推理两种途径的可解释性框架. 框架演进目标特征结果和推理结果, 在二者相同且都较为可靠的情况下实现可解释性. 目标特征结果通过机器学习模型直接得到, 推理结果通过子特征分类结果结合规则进行知识推理得到, 两个结果是否可靠通过计算可信度来判断. 使用面向液基细胞学检查图像的融合学习与推理的某类宫颈癌细胞识别案例对框架进行验证, 实验表明, 该框架能够赋予模型的真实决策结果以可解释性, 并在迭代过程中提升了分类精度. 这帮助人们理解系统做出决策的逻辑, 以及更好地了解结果可能失败的原因.

关键词：可解释性、机器学习、知识推理

所属期刊栏目：30

分类号：R737.33;TP391.41;TN911.73

资助基金：装备预研项目;装备预研项目

在线出版日期：2021-07-26（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：22-31