随着互联网科技的快速发展,深度学习这个崭新的领域在近十余年快速发展并受到了越来越多研究者的关注和研究。它在众多领域都取得了非常成功的应用。从最初的手写数字识别到近年来的图像识别、检测、跟踪以及语音识别等,深度网络模型都取得了传统方法无法企及的成就。随着深度学习在学术界不断取得突破,工业界也开始着手将深度学习的算法移植到硬件平台上。但是,当深度神经网络部署到具体场景时,却遇到了一个不可避免的问题,例如智能手机、穿戴设备等嵌入式设备,这些嵌入式设备对模型体积、计算性能、功耗等方面都有比较严格的要求,这就限制了上述对计算性能要求较高的深度神经网络模型的应用。强大、复杂的神经网络虽然带来了更好的性能,也伴随着高额的存储空间和计算资源消耗,这导致深度学习算法难以移植到移动设备或嵌入式设备上。因此,在工业界,旨在将算法更稳定、高效的落地在硬件平台上,效率是其追求的目标。而这也是本研究的出发点。本研究旨在尽可能不损失精度的前提下压缩神经网络模型,以便将其移植到嵌入式设备中。首先,本文提出了一种基于学习的结构化剪枝策略。通过在原网络模型中加入用于学习卷积层中各卷积核重要性的purning模块,在预训练的过程中学习到各卷积核的重要性,再根据卷积核的重要性裁剪掉不重要的卷积核。其次,本文提出了一种改进的量化方法——分步量化。该方法作用于结构化剪枝后,也就是对剪枝后的网络模型进行量化处理,进一步压缩网络模型。量化方法是通过让多个权重参数共享同一个参数值来达到压缩网络的目的,而我们的分步量化方法在量化的第一步使一些初始量化时分类错误的异常点聚到最适当的类中,再通过量化的第二步完成参数共享的目的。本文提出的分步量化方法较之单步量化方法降低了量化给神经网络模型带来的精度损失。最后,本文将提出的神经网络压缩方法应用到人脸识别和图像的超分辨率重建中,最后都在基本不损失精度的前提下完成了神经网络模型的压缩,也证明了本文提出的神经网络压缩方法的正确性。