深度卷积神经网络的柔性剪枝策略

来源 :电信科学 | 被引量 : 0次 | 上传用户:mario2
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
尽管深度卷积神经网络在多种应用中取得了极大的成功,但由于其结构的冗余性导致模型过大的存储容量和过高的计算代价,难以部署到资源受限的边缘设备中。网络剪枝是消除网络冗余的一种有效途径,为了找到在有限资源下最佳的神经网络模型架构,提出了一种高效的柔性剪枝策略。一方面,通过计算通道贡献量,兼顾通道缩放系数的分布情况;另一方面,通过对剪枝结果的合理估计及预先模拟,提高剪枝过程的效率。基于VGG16与ResNet56在CIFAR-10的实验结果表明,柔性剪枝策略分别降低了71.3%和54.3%的浮点运算量,而准
其他文献
随着以慕课为代表的在线教育平台的迅速发展,如何评价平台学习者提交的大规模主观题作业是需要解决的重要挑战。同伴互评是有效应对大规模主观题作业评价挑战的主流解决方案,近年来受到学术界与工业界的广泛关注。鉴于此,本文对面向在线教育的同伴互评技术进行了调研与分析。首先,概述当前实施同伴互评的通用流程;然后,分别阐述评价者分配、评语分析、异常互评信息检测与处理以及主观题作业真实分数估计等重要同伴互评流程活动
期刊
从业界对6G网络的多种业务场景入手,深入分析了上述场景中对6G网络设备所需的动态网络能力调整需求。提出了一种具备根据网络状态管理进行闭环自优化特点的可编程网络平台架构设计。通过该架构设计可以最大化利用SDN、NFV以及网络AI相关的已有技术体系,同时可以让网络管理者基于网络状态声明的方式进行网络的生命周期管理。该平台设计在未来可以为数字孪生网络以及随愿网络提供一种新的技术实现思路和方法。
期刊
关系抽取旨在从文本中抽取实体与实体之间的语义关系。作为关系抽取的上层任务,实体识别所产生的错误将扩散至关系抽取,从而导致级联错误。与识别实体相比,实体边界粒度小且二义性,更易识别。因此,提出一种基于实体边界组合的关系抽取方法。通过跳过实体,对实体边界两两组合来进行关系抽取。由于边界性能高于实体性能,所以错误扩散的问题得到了缓解。并且通过特征组合的方法将实体类型特征和位置特征加入模型中,性能进一步得
期刊
无线传感器网络(wireless sensor network,WSN)具有节点体积小、成本低,感知能力强等优势,被广泛应用于物联网(internet of things,IoT)场景中。如何在保证WSN负载平衡的前提下,提高业务服务质量(quality of service,QoS)成为了众多学者关注的问题。在研究WSN中基于启发式的资源分配方法和基于层次化结构的资源分配方法基础上,提出了一种基
期刊
混币机制是区块链隐私保护技术之一,目前面临效率低下、安全性不足、容易遭受拒绝服务攻击等问题。因此提出了IMShuffle,一种基于中间人的区块链混币机制。该混币机制首先对混币交易的参与者随机分组,每个小组成员都需要从小组中选择一位参与者作为中间人发送自己的输出地址,这些中间人将接收到的输出地址发送给小组的最后节点;然后运用多层加密的思想完成小组间最后节点输出地址的传递;最后一组的最后节点接收到所有
期刊
在现实应用中,区间值数据会因为测量、干扰或信息传输等噪声影响导致数据出现缺失值,而且这些数据随着时间推移呈现动态递增趋势,忽略或删除这些数据很有可能导致有用信息的丢失而出现决策误判。为此,针对这一问题,提出面向不完备区间值决策系统的三支决策模型和增量式规则获取算法。首先定义不完备区间值数据的量化相似容差关系,构造出基于不完备区间值决策系统的三支决策模型;其次从两个层级分析对象集动态规则获取策略,提
期刊
时分双工(time division duplexing,TDD)组网的5G系统面临大气波导效应造成的远端干扰问题。首先介绍了中国移动2.6 GHz频段5G系统面临的大气波导干扰风险和现状,总结了2.6 GHz频段5G大气波导干扰时频域干扰特征。然后对5G大气波导干扰测试结果进行了验证分析,包括不同帧偏置、不同业务负载、施/受扰小区不同天线下倾角配置下的大气波导干扰影响分析。最后通过对比结果得出指
期刊
针对移动边缘计算环境下,移动设备的计算、续航、存储能力的不足,导致其响应延迟、电池寿命降低等问题,设计了一种使所有设备的总能耗最低的动态节能资源竞争计算卸载(DERCO)策略。该策略综合考虑了信道容量以及设备间的相互干扰等情况,以一种贪婪算法的思想,让所有边缘设备通过迭代竞争信道资源,节能效果最好的设备将获得卸载机会,再利用一次性卸载方法,根据实时的信道状况和卸载速率进行动态的细粒度子任务卸载决策
期刊
针对梯度下降算法收敛速度较慢的问题,设计了一种用于相干接收机的有限脉冲响应(FIR)色散均衡器。采用动量梯度下降算法并进行优化,在每次更新迭代时对梯度进行指数加权平均并进行偏差修正,能够更快地接近最小均方误差。利用OptiSystem搭建单载波相干光传输系统并与MATLAB进行联合仿真验证,结果表明动量梯度下降算法更新抽头权值能更快地接近最小值,学习率越高速度越快。学习率为0.1、动量系数为0.9
期刊
传统机器学习在恶意软件分析上需要复杂的特征工程,不适于大规模的恶意软件分析。为提高在Android恶意软件上的检测效率。基于此,文中将Android恶意软件字节码文件映射成灰阶图像,综合利用深度可分离卷积(depthwise separable convolution,DSC)和注意力机制提出基于全局注意力模块(GCBAM)的Android恶意软件分类模型。从APK文件中提取字节码文件;将字节码文
期刊