面向边缘设备的高能效深度学习任务调度策略

摘要：

近年来,深度学习在图像和自然语言处理等诸多领域表现出色,与深度学习相关的各类移动应用发展迅速,但由于移动网络状态的不稳定性及网络带宽的限制,基于云计算的深度模型任务可能出现较大响应延迟,严重影响用户体验.与此同时,深度模型对设备的计算及存储能力有较高的要求,无法直接在资源受限的移动设备中进行部署.因此,亟须设计一种新的计算模式,使得基于深度模型的移动应用能够满足用户对快速响应、低能耗及高准确率的期望.本文提出一种面向边缘设备的深度模型分类任务调度策略,该策略通过协同移动设备与边缘服务器,充分利用智能移动终端的便捷性和边缘服务器强大的计算能力,综合考虑分类任务的复杂度和用户期望,完成深度模型在移动设备和边缘服务器中的动态部署,并对推理任务进行动态调度,从而提升任务执行效率,降低深度学习模型推理开销.本文以基于卷积神经网络的图像识别应用为例,实验结果表明,在移动环境中,相比于准确率最高的深度模型,本文提出的高能效调度策略的推理能耗可降低93.2％、推理时间降低91.6％,同时准确率提升3.88％.

关键词：深度学习模型、边缘设备、任务调度策略、能效优化

所属期刊栏目：43

分类号：TP18(自动化基础理论)

资助基金：本课题得到国家自然科学基金;陕西省自然科学基础研究计划;中央高校基本科研业务专项资金

在线出版日期：2020-05-07（万方平台首次上网日期，不代表论文的发表时间）

页数：共13页

页码：440-452