面向深度学习应用的边云协同计算框架及卸载策略研究

来源 :安徽大学 | 被引量 : 0次 | 上传用户:sosen871213
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着深度学习技术的发展和终端设备的普及,深度学习应用被广泛运行在终端设备。深度学习应用具有强大的数据分析功能,能够处理终端设备产生的海量数据并提取有效信息,以实现终端设备的智能化。深度学习应用作为资源消耗型任务,目前主要有两种部署和执行方式:一种是基于云服务器的部署和执行,另一种是基于终端设备的部署和执行。基于云服务器的部署和执行,将终端设备产生的海量数据发送到云服务器,这将带来较高的传输时延,难以满足实时性需求。基于终端设备的部署和执行,将复杂的深度学习模型完全部署在计算能力和电池容量有限的终端设备,同样也会导致高时延,另外无法满足用户对终端设备低能耗和长续航的需求。目前两种计算模式由于网络传输和终端设备性能的限制,无法保证深度学习应用中实时性和终端设备低能耗的需求。因此,如何降低深度学习应用的响应时间和终端设备能耗,从而优化用户的服务质量(Quality of Service,QoS)是一个值得研究的问题。近年来,边缘计算作为一种新兴的计算模式,通过在云服务器与终端设备间增加边缘服务器,使得计算任务可以选择卸载至边缘服务器中执行。因为边缘服务器更加靠近用户,边缘计算能够提供更快的响应速度和交互能力,可以降低时延并提高网络稳定性。因此本文引入了边缘计算,在网络边缘提供计算和存储能力,形成了边缘计算环境中“端-边-云”多重计算资源的执行架构,研究如何利用边缘计算满足深度学习应用中用户的QoS需求。本文主要工作如下:1.针对深度学习应用中,如何降低应用的响应时间,以优化QoS的问题。首先,本文引入新的计算模式边缘计算,在边缘计算环境中终端设备、边缘服务器和云服务器之间的有效协同是必不可少的。然后,本文考虑“端-边-云”不同种类计算资源的特性,提出了一种面向深度学习应用的边缘计算协同框架(Collaborative Framework of Edge Computing for Deep Learning Applications,Edge4DL)。最后,本文搭建了真实的边缘计算环境,以无人机配送的收货场景中,通过人脸识别对收货人的定位和确认的深度学习应用作为案例,实验证明协同框架Edge4DL可以显著减少响应时间和网络通信量。2.针对深度学习应用中,在满足时间约束的同时,如何降低终端设备能耗,以优化QoS的问题。本文在协同框架Edge4DL所包含“端-边-云”多重计算资源的基础上,进一步考虑深度神经网络(Deep Neural Networks,DNNs)具有多层结构和特征提取的特性,提出边缘计算环境中基于能耗优化的DNNs计算任务卸载策略。该策略以神经网络层为单位,将单个深度学习应用中的计算任务进行拆分,在计算任务卸载时,对“端-边-云”多重计算资源进行综合考虑。首先,本文建立了边缘计算环境中DNNs计算任务卸载的时间和能耗评价模型,并在该模型基础上设计出满足时间约束下评价终端设备能耗的适应度函数。然后,本文根据新策略提出了边缘计算环境中基于多重资源任务卸载的粒子群调度算法(Multi-Resource Task Offloading Based Particle Swarm Optimization,MRPSO)。最后,本文通过实验证明,与现有的任务卸载策略相比,新策略对应的粒子群调度算法MRPSO所得适应度值最低,即满足时间约束下,深度学习应用中终端设备的能耗值最低。本文引入边缘计算以及研究如何协同“端-边-云”多重计算资源,以满足用户对深度学习应用中时间和能耗的QoS需求。本文首先提出了一种面向深度学习应用的边缘计算协同框架Edge4DL,搭建真实的边缘计算环境,并且结合实际的案例验证了所提出框架能够有效减少响应时间和网络通信量。在此框架的基础上,进一步考虑DNNs具有多层次结构和特征提取的特性对其进行拆分和卸载,提出了边缘计算环境中基于多重资源任务卸载的粒子群调度算法MRPSO。最后实验证明在满足用户时间约束下,MRPSO能够充分降低终端设备能耗。
其他文献
随着城市中汽车数量与日俱增,交通流量日益扩大,给我国智能交通系统带来一定挑战,因此车牌定位与识别技术的研究不能停滞不前,尤其是车牌定位技术更是整个研究领域中最为关键的一环,同时随着汽车周围环境的变化和不确定因素的干扰,传统固定场景下的车牌定位方法逐渐难以满足越来越复杂的实际场景需求。本文基于经典的特征设计工程以及深度学习在目标检测领域获得巨大成功的前提下,针对复杂场景下的车牌定位难的问题提供了两种
近年来,随着科学技术的进步,出现了许多包含大量特征的问题。大量的冗余特征会显著降低模型的学习精度和速度。为了消除冗余特征,特征选择在各个领域被广泛应用。现有的特征选择算法主要分为两类,第一类为过滤式方法,该方法根据数据的特性定义一些评价指标,通常速度较快。第二类是包装式方法,包装式方法通常是一种迭代型算法,能够得到较高的分类精度。为了能够同时提高算法的分类精度和缩短算法的时间,一种基于混合(结合过
随着人工智能技术的快速发展,智能化的人-机交互设备已逐渐走进人们的生活。虽然它们能够较好地按照人们的意愿完成相应的功能,但几乎不能进行情感交流,无法根据使用者的心理感受调整交互方式,这极大制约了其功能和应用范围。情感作为一种主要的信息交流方式,在人们的日常沟通中发挥着重要的作用。开发具有情感自主感知的人机交互系统,已成为人工智能与人机交互领域中一个重要的研究方向。目前,情感计算的主要数据来源大致可
随着信息技术的发展,各领域的数据规模以惊人的速度扩张,这一方面给机器学习、数据挖掘等任务带来了更多的训练信息,另一方面增加了处理这些数据的难度。实例选择(Instance Selection,简称IS),作为一种常见的数据预处理技术,可以有效地删除一些冗余、噪声的样本,从训练集中获得一个优秀的子集,被广泛应用于机器学习、数据挖掘等任务中。因为实例选择的重要性,过去几十年里,有许多不同的实例选择算法
随着信息化和大数据时代的进一步到来,日益扩大膨胀的信息和数据已经充斥着人们生活的方方面面。为了高效和准确地获取信息,推荐系统成为了人们日常生活中不可或缺的工具。当前,大多学者对推荐系统的研究主要是针对单一领域推荐性能的提高。这种推荐系统大都存在着数据稀疏性的问题,很难精确地建模用户的兴趣。事实上,用户的信息通常是跨平台或者跨领域的,因此不同领域的信息可以相互共享和互为补充。但是针对一个特定的推荐任
随着5G网络的开始商用,人们已经开始越来越依赖网络了。网络中每天都会产生大量的数据,这些数据包括网络用户的一些个人信息,银行卡号,支付密码等等。用户与网站安全的数据交互变得尤为重要。目前,钓鱼网站因其拥有存活时间短,危害性大的特点已经成为网络安全中的一个重大威胁。网络钓鱼利用诸如电子邮件和SMS之类的社会工程技术,将网络钓鱼URL伪装成合法网站的URL来窃取用户的私人信息。因此建立一个可以快速并且
甲状腺结节是最常见的临床病变之一,可由多种病因引起,其发病率逐年升高。对其治疗的关键问题是鉴别结节的良恶性质。超声诊断是甲状腺结节诊断的一种常见方法,并在识别结节大小,定位结节部位、指导穿刺上具有一定价值。当放射医师根据甲状腺超声图像判断甲状腺为恶性时,应进一步进行细针穿刺活检或手术。但是,由于缺乏经验的放射科医生可能会导致误诊。此外,甲状腺结节自身形态复杂多样,以及超声图像本身噪声高且对比度低,
自二十一世纪以来人工智能技术的快速发展,深度学习中的神经网络算法凭借其自主学习能力在分类,检测和分割等任务上得到深入研究,目前基于深度学习的目标检测算法在行为监控、目标检测与追踪、自动驾驶等多个实际应用场景中都证明了其优秀的表现能力。随着遥感技术的进步雷达波已经成功达到毫米级别,合成孔径雷达(Synthetic Aperture Radar,SAR)作为一种应用最多、穿透力较强的雷达波,能够有效探
CDMA是现代通信系统中重要的通信技术之一,其信道可供所有用户同频、同时占用,以扩频码区分用户。但在多用户情形下存在多址干扰问题,使得用户数量的上限和CDMA系统性能受到限制。基站接收机可以使用多用户检测算法来减弱多址干扰并增加系统容量,串行干扰消除(SIC)是多用户检测算法之一,由其具有实现复杂度低和系统性能高的特点而受到广泛的关注。使用这一类的多用户检测算法,可以有效缓解CDMA所面临的多址干
脑-机接口(Brain-Computer Interface,BCI)技术通过解码大脑产生的电信号,在大脑与外部设备之间建立起一条直接的通信通路,是一种新型的人机交互模式。基于头皮脑电(Electroencephalogram,EEG)的BCI由于安全性好、操作简单的优点受到研究人员的广泛关注,但头皮EEG信号的信噪比和空间分辨率不高。独立分量分析(Independent Component An