基于通道剪枝的边缘计算深度神经网络优化技术研究

来源 :北京交通大学 | 被引量 : 0次 | 上传用户:q158743153
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着万物互联时代的到来,物联网设备在数量爆炸式增长的同时产生了海量的实时数据,传统的云计算方式无法满足计算需求,边缘计算作为一种新的计算范式被广泛应用。与此同时,深度神经网络技术高速发展,将人工智能融入边缘计算,使得边缘设备逐步智能化的需求也愈发旺盛。然而,由于深度神经网络模型高存储、高功耗,而边缘设备却资源受限、续航不足,因此边缘计算深度神经网络模型往往面临着巨大的挑战。首先,针对单个资源受限的边缘设备独立计算深度神经网络的场景,如何在将模型压缩到足够小的同时,保证精度的损失尽可能小,是其中面临的一大挑战。此外,由于单个设备对模型的性能提升作用有限,因此可考虑借助云服务器进行协同计算。在该场景下,如何加速边云协同推理过程以及如何根据应用对时延或精度的要求选择最佳划分点,是亟需解决的关键问题。针对以上问题与挑战,本文基于现有研究,面向边缘计算深度神经网络优化技术展开深入的研究探索,主要工作及创新点如下:一、针对单个资源受限的边缘设备独立计算深度神经网络的场景,本文提出一种基于注意力机制的深度神经网络通道剪枝算法。首先,本文设计了一种双重注意力模块SCA,它不仅可以提升模型的性能表现,而且其生成的统计量可作为评估通道是否冗余的重要标准。其次,本文提出一种在SCA注意力机制指导下的CPSCA通道剪枝算法。实验结果表明,SCA注意力模块具备最佳的结构设计,相比于其它注意力机制,它不仅是一个轻量级的模块,而且能带来更显著的精度提升;此外,相比于其他剪枝算法,在剪枝比例相同的条件下,CPSCA算法所得到的压缩后的模型精度最高。二、针对边缘设备借助云服务器协同计算的场景,本文提出了一种高效的边云协同推理方法ECCI。首先,针对边缘设备资源受限以及边侧计算时延过长的问题,提出利用CPSCA通道剪枝算法对边侧模型进行压缩。其次,针对中间数据传输时延过长的问题,提出了“三步压缩”策略来减少需要传输的中间输出数据大小。最后,为了满足应用对时延或精度的具体要求,提出一种最佳划分点选择算法。实验结果表明,该方法能够明显地降低边缘设备计算时延和中间数据传输时延,加速边云协同推理过程。当应用给出具体要求时,与其他计算方式相比,该方法表现出明显的时延优势和精度优势。
其他文献
缓倾顺层边坡在贵州地区多有分布,因其形成机理复杂、识别难度大,在地质灾害普查和早期识别中易被忽略,但缓倾顺层边坡一旦发生失稳破坏,其危害较大、后果严重,由缓倾顺层滑坡造成的灾害问题屡见不鲜,且导致的人员伤亡和财产损失严重,因此缓倾顺层边坡的失稳破坏机理、监测预警和风险评估已成为山区公路建设和运营中亟需解决的问题。本文深入挖掘和分析边坡现场工程现状和监测数据,剖析缓倾泥岩顺层公路边坡的影响因素,揭示
环境污染、资源短缺和气候变化等成为制约现代社会发展的重要因素,全球可持续发展问题愈发严峻。2015年联合国提出了17项可持续发展目标,确定了当前全世界的共同愿景和使命。工程建设消耗了大量能源资源,土木工程可持续发展对目标的实现具有促进作用。土木工程的各个领域必须向着更环保的方向发展。研究发现,桥梁的可持续性评价主要集中在经济和环境领域,对社会方面的关注较少,也很少有研究分析桥梁设计参数和社会影响之
真空管道运输(Evacuated Tube Transport,ETT)是一种以磁悬浮轨道技术为基础,构建管道形式的真空运行环境,实现列车零空气阻力、无摩擦运行的交通运输形式。目前国内外已经开展了ETT试验线项目研究,如国外Hyperloop项目和国内高速飞车项目。车地无线通信系统作为高速飞车运行控制系统重要的组成部分,承载了列车运行控制、运行状态监测等系统业务,与其他列控子系统共同保障了列车的安
随着科学技术和工业自动化水平的不断发展,列车运行速度也得到了一定的提升。道岔转辙机作为控制列车运行方向的核心设备,对其故障的精确和快速诊断是保障列车运行安全的重要基础。目前,铁路运维主要利用微机监测系统对道岔设备进行故障监测,系统报警往往对应了多种不同的故障模型,实际的排查仍是通过现场工人的天窗检测。为了保证设备的安全性,现场无法在转辙机内部安装传感器设备,这需要电务、工务工人不断进行信息交流,当
随着航空制造业的不断发展,对航空发动机叶片提出了越来越高的性能要求,对钛合金风扇叶片加工也提出了越来越高的精度要求。大量研究表明,叶片实际加工中,设置叶片加工参数对叶片叶型轮廓度误差有很大影响。因此,优化钛合金叶片加工参数是减小叶片叶型轮廓度误差的重要手段之一。本论文针对中国航空制造技术研究院叶片加工存在轮廓度超差的问题,基于数据挖掘技术中的统计分析法和决策树分类法进行了叶片加工参数优化,对减小钛
近年来,视频监控在各种智能工业应用中起到日益重要的作用,如何高效地从视频中自动获取目标的有效信息就成为了一个很有价值的研究内容。研究者们提出了很多静态图像的目标检测算法,但是因为视频中存在大量的运动模糊、失焦、遮挡和奇异姿势等问题,会导致图像质量退化,所以静态图像的目标检测方法并不能很好地适配到视频目标检测中去。目前也有部分关于视频目标检测算法的研究,但大部分算法只是单方面的追求效率或检测质量,并
太赫兹频段能够实现超宽带,超高传输速率的通信方式[1],编码超构材料是一种人工设计的亚波长结构,其电磁特性可以通过人工设计的方式进行控制,在太赫兹波束调控领域展现了卓越的控制能力[2]。为了进一步推进编码超构材料在太赫兹通信技术中的落地,本文创新性的从相位特性角度解释了极化转换实现原理,并基于极化转换理论和Pancharatnam–Berry相理论,提出了集成石墨烯材料的E字形金属贴片编码超构材料
近年来,随着人们出行需求的增加和汽车保有量的快速增长,城市道路拥堵情况愈加严重。与此同时,智慧交通不断发展,无人驾驶技术愈渐成熟,实现前方道路透明化、完善智慧交通管理系统、缓解交通压力成为交通发展的首要任务。为实现前方道路透明化、为自动驾驶车辆进入人们生活、提供人机混跑的可能,作者所在科研团队提出了出行计划机理,即出行者在出行前发布出行时间、出发地、目的地,致力于构建基于出行计划的智慧交通管理系统
近年来重载化成为我国铁路的主要发展方向,曲线段钢轨的磨损问题日益严重。与传统的珠光体钢轨相比,贝氏体钢轨在抗磨损和抗滚动接触疲劳性能等方面表现较为优异,同等条件下其服役寿命高于传统的珠光体钢轨。具有高强度和良好韧性的贝氏体钢轨得到了科研人员的广泛关注。本文以贝氏体钢轨为研究对象,通过进行不同的热处理工艺获得了不同的显微组织。在滚动摩擦磨损实验机上进行实验,主要从磨损量、磨损表面形貌以及剖面裂纹萌生
运输服务质量是货主选择运输方式的重要依据,保障时效性和准时性已经成为各种运输方式提高市场竞争力的主要手段。铁路运输一直注重空间效用提升,时效性和准时性已经成为制约其进一步发展的短板。实施以保证铁路货物运输时效性为最终目标的规划型运输组织模式,是铁路适应市场发展和提高服务质量的有效途径。设计基于时空隧道的规划型铁路运输组织方案以及构建方案编制的数学模型,有助于推进规划型运输组织理论研究和实践应用,为