【摘 要】
：
结构化剪枝算法是模型压缩一种常见的方法。现有的结构化剪枝算法大都运用神经网络的一阶或者零阶信息对通道进行剪枝。本文提出一种新的基于网络模型二阶信息的结构化剪枝算
【机 构】
：
南京信息工程大学江苏省大数据分析技术重点实验室;
【基金项目】
：
国家新一代人工智能重大项目(No.2018AAA0100400);国家自然科学基金项目(No.61876090,61936005)
论文部分内容阅读
结构化剪枝算法是模型压缩一种常见的方法。现有的结构化剪枝算法大都运用神经网络的一阶或者零阶信息对通道进行剪枝。本文提出一种新的基于网络模型二阶信息的结构化剪枝算法，该算法首先利用幂迭代法得到网络参数对应的Hessian矩阵主特征向量，然后利用得到的特征向量衡量网络通道重要性并对通道实行结构化剪枝。本算法被运用到ResNet与VGGNet网络的剪枝中并与经典的剪枝方法做了对比。实验结果表明本算法在参数量和FLOPs减少10%～30%情况下，网络准确率没有受到影响，在ResNet110和VGG16精度还提升0.4～0.7个百分点，剪枝效果也优于其他算法。
其他文献
设计建立一种用于AGV自动导引车镍氢动力蓄电池的快速充电系统,该系统在充电过程中能实时监测蓄电池组的各个运行参数,完成数据运算并逻辑判断、控制充电过程至其结束,并利用
心理健康教育能够使人保有积极向上的、良好的心理状态,提高人的适应能力,激发人的潜能,带给人开心愉悦的心情,还能帮助人战胜心理疾病。不可否认的是,职业学校在这方面已经
用植入式半导体温度记录元件iButton记录了达乌尔黄鼠冬眠季节及其前后的体温,分析了其冬眠模式和体温调节特点。结果显示:1)实验室条件下,达乌尔黄鼠冬眠季节长短的个体差异
髋部骨折围术期贫血十分常见,其增加了术后并发症及死亡率,但有关围术期输血尚缺乏广泛认可的指征及科学规范。本文对髋部骨折围术期贫血的原因、治疗及输血指征和规范加以综
模型转换是模型驱动软件开发的关键技术。本文首先对MDA中的模型转换技术进行了分类,然后介绍了模型转换技术的研究现状,并对当前支持模型转换的MDA工具作了总结和比较,最后
以生命周期理论为基础，对典型墙体材料建立了能源、环境与成本的多目标评价模型．结合陕西区域发展情况，对10种典型墙体材料进行了多目标评价，得到了适合陕西区域情况的墙体材料生
社会治理需要审计监督,审计是国家治理极为重要的"免疫系统"。我国审计制度历经数千年的实践,其职能逐渐被固定于对官员经济行为的监督和政绩的考核、对政府财政财务收支和钱
<正>《忆读书》是语文版义务教育课程标准实验教科书七年级(上)一单元的第一篇课文,对小升初的学生来说,这是他们升入中学后接触的第一篇课文。俗话说:万事开头难。如何让学
分析了不同宽高比截面的燃气轮机涡轮叶片内冷径向出流通道模型，对其内部流体的流动与换热进行了数值模拟，计算工况为Re=25000、密度比△ρ／ρ=0．13、旋转数Ro=0．24。对比不同宽高