面向移动边缘计算的CNN推理的能耗优化调度方法

来源 :深圳大学 | 被引量 : 0次 | 上传用户:intint
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
移动边缘计算(Mobile Edge Computing,MEC)是一种新兴的计算范式,它在智能物流、城市智能交通和智能安防等方面都有着广泛的应用前景。在这些场景中,卷积神经网络(Convolutional Neural Network,CNN)是一种常用的技术。它在图像识别、物体检测等领域有着出色的表现。在过去,卷积神经网络的训练和推理都在云端完成。随着片上系统(System-on-Chip,SoC)的发展和人工智能芯片的出现,移动边缘设备已经逐步具备了较强的计算和存储能力。计算量较少的卷积神经网络推理阶段可以在移动边缘设备上完成。在移动边缘设备进行推理,可以避免大量数据传输到云端所造成的网络延迟,也可以规避一些图像识别应用在云端所涉及的隐私泄露的风险。因此,在移动边缘设备上进行CNN的推理已经成为一种新的趋势。但是,在移动边缘计算下进行CNN推理时仍面临移动边缘设备电池电量受限的瓶颈。因此在移动边缘计算下,如何合理地将CNN推理任务分配到多个移动边缘设备上,从而充分利用每个设备的资源,使得移动边缘设备实现能耗优化,是我们需要解决的关键问题。为了获得可行的解决方案,本文对研究问题进行建模,将针对移动边缘设备生成具体的调度方案,将任务分配到每个设备上,以此充分利用每个移动边缘设备,达到能耗优化的效果。本文采用了动态电压频率调整技术(Dynamic Voltage Frequency Scaling,DVFS),分别针对设备同构和设备异构两种场景,提出两种调度策略。针对同构设备下的场景,本文提出一种名为AdaptFre的策略。该策略共分为两个步骤。首先,AdaptFre根据设备的初始状态生成初始调度。我们采用动态规划和贪心算法两种策略来生成初始调度。其次,AdaptFre会在几个时间节点上对移动设备进行监控,将数据收集上传到MEC服务器,判断是否需要对当前的设备调度进行调整,确保调度一直是最优调度方法。实验结果表明,与已有的代表性的解决方案相比,在典型的神经网络应用数据上采用AdaptFre策略可以降低29.47%的能耗并取得高达98.68%的设备利用率。针对异构设备下的场景,本文提出一种名为AdaptDevice的策略。该策略基于遗传算法生成任务调度。AdaptDevice首先对每个设备进行编码,将具体的调度方案转化为遗传算法中的染色体。然后,AdaptDevice生成多个初始种群,每个种群通过进化得到一个最优个体。最后可以根据实际情况,将这些最优个体根据适应度择优选择,或进一步进化。结合移动边缘计算下的特点,这个过程在MEC服务器上并行地进行。实验结果表明,与已有的代表性的解决方案相比,在典型的神经网络应用数据上采用AdaptDevice策略可以降低27.52%的能耗并取得高达98.27%的设备利用率。
其他文献
人类对能源需求不断增长以及对由化石燃料燃烧引起的污染的担忧,正推动着先进能源存储技术的快速发展。锂离子电池具有体积比容量大,无记忆效应等优势被视为是极其重要的新型能源储存和转化器件。现在商业化的锂离子电池负极材料主要是石墨,但其过低的比容量(372 m Ah g-1),已不能满足当今社会发展对高能量密度材料的需求,因此,急需开发新型的负极材料。现今大量的研究工作主要聚焦于如何开发高比容量的材料,降
膜蒸馏(Membrane distillation,MD)是基于膜的热蒸发工艺的一种海水淡化技术,进料侧表面上蒸发产生的水蒸汽通过膜孔扩散到膜的另一侧,被冷侧循环水冷凝而实现脱盐。由于其高脱盐率、低成本和模块化设计等优点,具有广阔的应用前景。然而对于传统的膜蒸馏系统,其固有的温度极化现象(进料侧的膜表面的温度低于上部进料液体的温度),阻碍了其大规模的工业化应用。近年来,人们在传统MD技术中引入太阳
锂离子电池由于输出电压高、容量高、循环寿命长以及良好的环境友好性等诸多优点,经过20多年飞跃式的发展,已经成为便携式电子产品和其他清洁能源的储能电源。但是在动力电池领域的相关技术却未获得较大突破,因此开发可靠廉价的负极材料,对锂离子电池的发展至关重要。同时,因为锂硫电池有高的理论比容量(1675 m Ah g-1)和高能量密度(2600 Wh kg-1),并且硫来源广泛、价格低廉、环境友好,该体系
随着新型电动汽车和便携式电子设备的快速发展,对高功率、绿色、安全的储能设备的需求越来越大。锂离子电池(LIBs)以其高能量密度和稳定的电化学性能而备受关注,被认为是最具潜力的储能技术之一。目前商用石墨负极的理论容量较低(~372m Ah·g-1),限制了高能量密度LIBs的发展。因此,开发环境友好、高容量、具备优异循环及倍率性能的锂离子电池负极材料势在必行。四氧化三钴(Co3O4)因其理论比容量高
随着社会的快速发展,预计到2040年,全球上路汽车数量将达到20亿辆。交通安全事故渐渐成为城市交通系统发展的一大隐患,并成为儿童与青少年的首要死因,人们对于安全出行这方面也十分关注;伴随自动驾驶概念因素的加入,交通系统需要解决的安全与效率问题日益突出,如何使交通系统更加安全与高效率也一直成为学者们研究的一个大方向。路径推荐在智能交通是一个比较重要的应用,可以根据驾驶员的出行需求,所规划的路线也会有
可充电电池是我们现代社会不可或缺的一部分,可在多种应用中按需提供电能,其研发主要集中在锂离子电池技术上。与此同时,由于具有丰富的资源,低廉的价格,相似的化学性质,钠离子电池正逐渐成为能量存储的潜在候选者。然而,目前商业化的石墨负极因其较低的理论容量无法满足人们需求,因此,开发低成本、高容量的新型负极材料是研究的重点。最近,锑基材料(金属锑、锑基合金、锑硫族化合物及其复合材料)因其相对较低的价格和较
驾驶行为分析和风险预测对于道路交通安全、智慧城市、无人驾驶和金融保险等领域具有重大意义。随着汽车保有量的逐年增长,道路环境日渐复杂,交通安全问题越发严峻。为了保障道路交通中的生命财产安全,分析驾驶行为和预测风险已刻不容缓。然而,由于各种条件限制,现有的驾驶风险分析工作面临着若干挑战。首先,目前的一些驾驶行为分析和风险预测工作通常以粗粒度的方式来评价驾驶风险,缺少对驾驶行为进行细致描述并且无法发掘潜
危险驾驶行为不仅会造成了严重的交通事故,而且会导致重大的生命财产损失。对驾驶员危险特征进行提取有利于道路安全。很多保险公司无法识别在交通事故中产生了巨额赔付的驾驶员中的高风险客户,因此这是导致车辆保险行业利润减少的最重要的因素之一。所以对驾驶员进行危险特征提取有助于保险公司识别危险驾驶员,从而调整定价策略以提高盈利。因此,驾驶员危险特征提取在道路安全以及车辆保险计价均扮演重要的角色。传统的驾驶员危
资源枯竭和环境污染是当今世界上的两项巨大挑战。建筑作为人类主要的居住环境,是能源消耗和污染排放的主要贡献者之一,建筑业必须成为节能减排的重点,同时应承担为人类提供舒适健康的使用空间以及良好生态效益的任务。中国是目前世界上最大的排放国和最大的能源消费国,为解决这两个问题,促进绿色建筑的发展势在必行。绿色建筑可以在建筑的使用周期内尽可能最大化的实现节约资源、保护环境的目标,并且为人们提供健康舒适的使用
近年来,随着时代的发展,各地高校数量的增多,可持续校园的理念被运用于校园规划与建设中。步行作为最“绿色”的出行方式,得到校园可持续规划的重视。在新校园的交通系统规划设计中,逐渐体现出“人车分离”和“步行者优先”的设计原则。但在多数已建成的大学校园中,由于在规划设计之初对步行系统的重视不够,校内的步行空间存在着一些亟待解决的问题。针对这些问题,需要通过有针对性的优化设计,创造更加便捷、舒适的步行空间