面向目标用户的深度学习模型可视化综述

摘要：

深度学习模型在某些场景的实际应用中要求其具备一定的可解释性,而视觉是人类认识周围世界的基本工具,可视化技术能够将模型训练过程从不可见的黑盒状态转换为可交互分析的视觉过程,从而有效提高模型的可信性和可解释度.目前,国内外相关领域缺少有关深度学习模型可视化工具的综述,也缺乏对不同用户实际需求的研究和使用体验的评估.因此,本文通过调研近年来学术界模型可解释性和可视化相关文献,总结可视化工具在不同领域的应用现状,提出面向目标用户的可视化工具分类方法及依据,对每一类工具从可视化内容、计算成本等方面进行介绍和对比,以便不同用户选取与部署合适的工具.最后在此基础上讨论可视化领域存在的问题并加以展望.

关键词：可视化工具、深度学习模型、模型可解释性、目标用户、注意力机制

所属期刊栏目：32

分类号：TP391;X914;G434

资助基金：国家重点研发计划2020AAA0107705

在线出版日期：2023-11-15（万方平台首次上网日期，不代表论文的发表时间）

页数：共12页

页码：36-47