论文部分内容阅读
随着高性能计算芯片的发展,在移动设备上部署深度学习模型成为了当今的热门。卷积神经网络(简称CNN)作为深度学习技术的一种,由于其能够自适应地学习并组合出有效的特征,非常适用于花卉识别这种较难的细粒度图像分类范畴。CNN通常有上百万个计算节点与参数,这意味着硬件设施要有较强的算力与较大的存储资源。然而在边缘计算中(比如移动端和嵌入式平台),设备的计算能力较低,内存也较小,因此部署起来有较大难度。论文围绕移动端CNN的部署和优化展开研究,探索了一系列技术来使花卉识别模型尺寸更小、预测时间更短、识别精度更高。论文的主要工作包括:(1)模型选择方面,详细分析了CNN的演变和网络结构,以及各种经典的CNN架构。接着从CNN的时间复杂度和空间复杂度入手,选择了尺度、速度和精度都取得了较好权衡的轻量级CNN MobileNet-V2。(2)模型训练和优化方面,通过对CNN的训练流程和常用优化算法进行分析,提出了一种结合Momentum的RMSProp优化算法,和其它优化算法相比,该算法在相同的迭代轮数内,损失函数下降得更快,正确率上升得更高,更快寻找到最优解。另外本文采用同步模式的双GPU并行训练来缩短训练时间,并采用迁移学习、L2正则化、数据增强等一系列训练策略来提升模型精度。(3)模型压缩方面,采用了一种高效8-bit整数运算神经网络量化方案,该方案能将CNN的32-bit浮点运算转化为高效8-bit整数运算,减小模型体积的同时缩短模型预测时间,而精度下降却非常低。以MobileNet-V2作为基准进行测试,转化后的uint8模型相比原先的float32模型,体积缩小52%,预测时间缩短48%,而精度下降1%。(4)基于TensorFlow Lite开源框架,在安卓移动终端上实现了模型移植。该花卉识别系统的APK大小为7.17MB,小米6手机上单帧预测时间为57ms,在Oxford-102 Flower公共数据集上的Top-1正确率为95.9%,此外与其它花卉识别模型的对比也表明了该系统在尺度、速度和精度等方面都具有较好的性能。