面向嵌入式设备的深度神经网络分层策略

摘要：

使用人工智能的方式进行图像识别预测已经渐渐成为一种主流方式,随着对模型精确度需求的不断提升,对现有计算平台的计算能力和性能也提出了新的要求.现有的基于人工智能的预测方式大致可分为两种,一种是基于C/S架构,一种是使用轻量化框架的本地运行.两者在面对大规模低性能设备时,会面临着服务器压力负载过大,低性能设备仍然无法完成任务等情况.本文根据Roofline模型的粗粒度计算加上缩小式窗口计算精确化,提出了一种可以预测模型在不同设备上的计算时间并分离深度神经网络的方法,能够将原本模型的一部分工作量交由前端嵌入式设备完成,服务端完成另一部分的工作,从量上减少原来的工作负载,并能根据实际需求进行动态调整与重新分配,同时在大部分情况下减少了网络传输的数据量.实验表明这种分层策略可以有效减缓上述两个问题,具有一定的实际意义.

关键词：深度神经网络、分层模型、嵌入式系统、图像预测

所属期刊栏目：40

分类号：TP302(计算技术、计算机技术)

资助基金：国家自然科学基金项目61572325,60970012;高等学校博士学科点专项科研博导基金项目20113120110008;上海重点科技攻关项目14511107902,16DZ1203603;上海市工程中心建设项目GCZX14014;上海智能家居大规模物联共性技术工程中心项目GCZX14014;上海市一流学科建设项目XTKX2012;沪江基金研究基地专项项目C14001

在线出版日期：2019-07-25（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：1455-1461