论文部分内容阅读
深度卷积神经网络已经在图像处理、语义理解等应用领域取得了巨大的成功,但由于其模型参数多、计算量大,使得神经网络无法直接在移动或嵌入式设备上运行。因此,对深度卷积神经网络模型的压缩方法进行研究,并减少神经网络运行时的计算量是很有必要的。论文通过对深度卷积神经网络模型的权重参数进行分析,并在权衰减剪枝方法的研究基础上,提出了重复剪枝的神经网络模型压缩方法;通过使用线性修正单元激活函数和L1范数正则化方法增加网络的稀疏性,并使用三元组向量表示稀疏矩阵,最后通过稀疏矩阵运算代替卷积运算,减少神经网络中的计算量;利用压缩后的神经网络模型设计并实现的目标物体捕捉应用,可离线捕捉目标物体,并语音播报目标物体的位置信息。论文的主要研究内容及成果如下:(1)针对深度卷积神经网络模型权重参数过多导致模型过大的问题,提出了重复剪枝的神经网络模型压缩方法。重复剪枝方法每次修剪时只休剪掉小部分连接然后开始重新训练,之后重复这种修剪再训练的过程直到达到预期修剪目标。实验验证该方法在修剪掉的连接数超过总数的95%时,会比优化前的权衰减剪枝方法具有更高的正确率。(2)针对卷积神经网络中计算量大的问题,提出了一种基于稀疏矩阵运算的卷积优化方法。该卷积优化方法首先通过使用线性修正单元和L1范数正则化方法使网络变得稀疏,然后用三元组向量表示稀疏矩阵,最后使用稀疏矩阵运算替代卷积运算,从而减少神经网络运行过程中的计算量。(3)设计并实现了基于深度卷积神经网络的目标物体捕捉应用。将压缩后的神经网络模型嵌入移动应用中,并结合卷积优化方法,使神经网络模型可以在移动端顺畅运行。论文对应用的总体架构进行了设计,并对应用包含的目标物体名称获取模块、待检测区域像素信息获取模块、物体识别模块和捕捉结果处理模块进行了详细的设计和实现,最后对该应用进行了功能和性能测试。论文主要研究了深度卷积神经网络模型的压缩方法,结合卷积优化方法,设计并实现了目标物体捕捉应用,并对该应用进行了测评。