深度神经网络可视化技术研究与应用

来源 :电子科技大学 | 被引量 : 9次 | 上传用户:hanson1023
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度神经网络虽然在许多模式识别任务(如大规模图像识别)中取得了巨大成功,但仍然有很多问题亟待解决。一方面,研究人员发现深度神经网络虽然在图像分类等任务中性能显著,但依然会犯一些人类不会犯的错误。另一方面,研究人员也仍然不清楚深度神经网络是如何从大规模数据中学习到有效的特征表示。深度神经网络的缺陷和它的“黑盒子”特性促进了深度可视化技术的发展。深度可视化技术旨在通过以生成图像的方式来可视化深度神经网络中的单个神经元、特征映射或者卷积层等所学习到的特征表示,帮助理解神经网络是如何从数据中学习特征提取,帮助分析提取到的特征有什么优缺点,从而帮助设计更好的网络结构来提升网络的优点、避免缺点。深度可视化技术已经成为了深度学习中一个学术研究热点,但仍然处于探索阶段。本文的主要研究对象是深度神经网络中数以千计的卷积滤波器。深度神经网络中不同的滤波器会从输入图像中提取不同特征表示。已有的研究表明低层的卷积核提取了图像的低级语义特性(如边缘、角点),高层的卷积滤波器提取了图像的高层语义特性(如图像类别)。但是,由于深度神经网络会以逐层复合的方式从输入数据中提取特征,我们仍然无法像Sobel算子提取的图像边缘结果图一样直观地观察到深度神经网络中的卷积滤波器从输入图像中提取到的特征表示。本文提出特征映射可视化方法来可视化深度神经网络中的卷积滤波器从输入图像中提取到的特征表示。特征映射可视化会强化感兴趣的卷积滤波器所对应的特征映射,并抑制同层其他滤波器所对应的特征映射,得到调制码之后再通过编码反转方法来生成新图像,使得新图像在该层的滤波响应与调制码相同。生成的新图像与感兴趣的滤波器具有一一映射关系,能够反映出该滤波器从输入图像中提取到的特征表示。通过特征映射可视化研究我们发现,深度神经网络中的每一个卷积滤波器都从输入图像中提取到一种特殊的纹理基元图像。低层的滤波器提取的纹理基元比较简单,颜色单一;高层的滤波器提取的纹理基元比较复杂,颜色丰富。基于特征映射可视化的结果,本文还提出了图像的纹理模型,并应用于图像风格转移和图像纹理分类任务。实验结果表明,本文提出的纹理特征在图像风格转移和图像纹理识别任务中均表现优异。基于特征映射可视化结果而提出的图像纹理模型的成功应用也反过来证明了深度可视化研究的重要性和意义。
其他文献
由于经济的高速发展,市政工程建设也越来越被广泛关注。众所周知,市政工程的施工质量代表着整个城市的发展规模,代表着整个城市居民的生活幸福指数。由于经济快速发展推动市
在海底管道的探测中,为获知海管在海底的真实赋存状态,确定其埋藏深度或悬跨高度,多使用高频浅地层剖面仪等传统声学设备。但在海底斜坡、凹坑、凸起等不平整地层处,由于设备
随着我国经济的飞速发展,公路、铁路等施工项目中隧道建设项目越来越多,产生的隧道废水也相应增多。介绍了隧道施工废水的来源、隧道施工废水特点、主要污染物和隧道涌水的来
创新实践能力发展基于人们正确的思想力和创新敏锐的思维力,而思想力和思维力是基于必要的相关认知和文化素养的基础上。尤其是从民办高校大学生的思想和思维视野分析,进一步
根据色度学原理,以绿色色调的翡翠为研究对象,利用USB2000+光纤光谱仪,对样品的光谱反射率曲线和光谱色度学参数进行分析.结果表明:淡绿色翡翠样品的光谱反射率曲线较平缓且
采用了整体开放、局部密闭的设计思路,将原来的整体式艏部结构优化为分体式艏部结构,即艏部由左、中、右3个轻质壳体组成迎流球壳,照明灯、摄像机分别密封,形成独立的模块单
珊瑚礁生物建造和生物侵蚀是珊瑚礁生物地貌过程的两个关键环节,两者之间的平衡关系决定着珊瑚礁生物地貌过程的动态变化,控制着珊瑚礁地貌结构和形态。珊瑚礁生物建造和生物
提出了基于52单片机和PID控制算法采用角位移传感器控制直流力矩电机的旋转倒立摆的设计方案。实验表明该倒立摆系统稳定、结构简单、成本低、控制容易,实现摆角超过-60度到6
世界各国的大学章程架构并无定法,我国大学章程可从国内外大学章程文本比较中得到启发。大学章程框架设计应包含三个核心要素:一是有核心理念支撑,二是遵循大学教育规律,三是
农民专业合作社直接融资渠道主要包括股权融资、留存收益、资金互助组织、商业信用融资。合作社组织管理松散、内部积累少、资金互助功能有限、缺乏商业信用集资、无资本市场