一种多层预训练卷积神经网络在图像识别中的应用

来源 :中南民族大学 | 被引量 : 0次 | 上传用户:simsuns
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
机器学习是人工智能发展到一定阶段的必然产物,机器学习方法先后涌现出了三大分支,包括连接主义,符号主义以及统计学习。连接主义为模拟人脑学习的一种机器学习方法,于二十世纪五十年代中后期出现。反向传播算法的提出,使连接主义方法兴盛于一时,但于二十世纪九十年代中后期没落。其原因在于,随着神经网络变得复杂,网络层数扩大,出现了梯度消弭,并难以收敛,获得的结果在很大程度上跟初始化参数有关。深度学习方法就是针对这一问题而提出,并获得广泛研究与应用,因此研究神经网络的初始化有着重要的理论及应用意义。卷积神经网络于诸多深度学习算法中,获得了较大的成功。卷积神经网络是专门针对图像处理提出的,而后也被用于其他领域,如文本处理。卷积,池化与权值共享是卷积神经网络的核心。自动编码器也属于一种深度学习方法,是一种三层的神经网络,分输入层,编码层,解码层,一般用预训练或构件较复杂的深度网络。虽然卷积神经网络取得了很大的成功,但当其网络结构逐渐变得复杂后,也存在梯度消失收敛不佳,训练时间长的问题。针对卷积神经网络的这些缺陷,本文把自动编码器与卷积神经网络结合起来,以期解决卷积神经网络梯度消失,训练时间长等问题,以期将卷积神经网络用于图像识别时,用更少的时间得到更好的结果。本文提出一种用自动编码器初始化卷积神经网络卷积层及全连接层参数的方法,并在此基础上给自动编码器加入一种快速稀疏控制方法,以期得到较好结果。在Minist手写数字数据集,MIT人脸数据集,Oxford 17数据集上,实验结果表明:(1)本文的初始化方案,和随机初始化算法相比,能取得更好的结果,能给卷积神经网络带来更好的时效性,可以在一定程度上解决梯度消失,训练时间长,收敛困难等问题。(2)在Oxford 17数据上,实验结果有显著的提高,表明本文的初始化方案在较复杂的数据上,对卷积神经网络有更好的性能提升。(3)进一步实验发现,给自动编码器加入稀疏控制可以降低图像识别的错误率,即验证了本文所提稀疏控制方法的有效性。(4)本文的初始化方案,在较复杂的卷积神经网络上的性能提升好于简单卷积神经网络,即表明了本文针对卷积神经网络设计的初始化方案,在复杂网络上有更好的时效性提升。
其他文献
目的:比较ERCP手术中,分别使用布托啡诺和舒芬太尼联合丙泊酚深度镇静时,镇静效果之间的差异,并寻找最适宜与丙泊酚联合使用于ERCP手术的镇痛药物。方法:收集自2018年7月至12
<正>随着技术发展,运维管理有两个重要趋势是ITIL V3与ITSS规范的兴起。尤其是云计算的发展,银行业更加注重对IT服务管理的提升。广通软件是国内领先的运维管理软件厂商,多年
佐科·维多多于2014年10月20日宣布就任印尼第七任总统,至今执政已逾四年。在其首届任期内,佐科及其团队设立了全新的外交战略规划,印尼政府外交政策已显现出全新的面貌。宏
开展了一系列机械排烟实验,定量分析了排烟口风速和高度对机械排烟效率的影响规律。结果表明,在烟气层厚度和排烟口风速一定时,排烟口高度存在一个临界值,实验得到的临界高度
随着近年来酒店行业的快速发展,行业之间的竞争也日趋激烈。如何优化酒店的服务与管理,在内部创造有利条件和良好的组织氛围,让员工便捷有效地与他人进行知识共享,是十分必要
基于电子给-受(D-A)型有机-无机杂化材料,不仅具有组成、结构、功能多样性和显著的协同效应,而且在温度/光/电/磁/溶剂刺激下可发生电子转移(ET),产生有色自由基,进而表现出多因
随着科技信息化的快速发展,医院信息技术水平不断提高,特别是在当前我国高度重视"互联网+"战略的新形势下,医院也在大力实施"互联网+医疗"战略,这就对医院的数据中心提出了新
自2008年全球金融危机以来,西方民众对资本主义制度和新自由主义的信心日渐动摇,一股"千禧社会主义"之风正在当代西方社会兴起。"千禧社会主义"的出现,是历史与现实、主观与
<正>国卫食品标便函[2017]126号各省、自治区、直辖市及新疆生产建设兵团卫生计生委(卫生局)食品安全相关处,国家食品安全风险评估中心:为贯彻落实《食品安全法》和国务院工
全球气候变暖的问题已逐渐凸显,减少温室气体排放尤其减少碳排放,是所有国家需要共同面对的问题。中国作为有担当和负责任的大国,为应对气候变暖曾出台过一系列的减碳政策,助