【摘 要】
：
深度学习是当下的研究热点,卷积神经网络是其中最重要的模型,主要应用于计算机视觉领域,已经取得很多研究成果并成功应用于现实生活.而深度学习的核心是一个广义的随机优化问题,因此对优化算法的研究是一件有意义的工作.本文的主要工作包括以下三个方面:一、针对卷积神经网络中的随机梯度下降算法的“之”字形低效率搜索的缺陷,提出了一种新的优化算法——随机分数阶梯度法,并对分数阶梯度的几何意义给出解释说明,在一定假
论文部分内容阅读
深度学习是当下的研究热点,卷积神经网络是其中最重要的模型,主要应用于计算机视觉领域,已经取得很多研究成果并成功应用于现实生活.而深度学习的核心是一个广义的随机优化问题,因此对优化算法的研究是一件有意义的工作.本文的主要工作包括以下三个方面:一、针对卷积神经网络中的随机梯度下降算法的“之”字形低效率搜索的缺陷,提出了一种新的优化算法——随机分数阶梯度法,并对分数阶梯度的几何意义给出解释说明,在一定假设条件下,证明了随机分数阶梯度法的收敛性.二、对随机分数阶梯度法应用于卷积神经网络的反向传播进行了理论分析,并应用随机分数阶梯度优化算法的卷积神经网络模型进行手写字体识别、Fashion-MNIST识别、猫狗数据集分类,验证了该算法应用于卷积神经网络处理分类问题的可行性.三、基于数值实验结果,对优化算法是随机分数阶梯度法与随机梯度下降法的卷积神经网络模型处理分类问题的效果及算法的参数敏感性进行了对比分析.总体而言,本文提出的随机分数阶梯度法在应用于卷积神经网络处理分类问题中,取得了较好的结果,相较于随机梯度下降法,本算法在一定程度上可以提高卷积神经网络分类的准确率,同时降低运行时间成本.
其他文献
镍含量为36%的铁镍合金(Fe64Ni36)由于其极低的热膨胀系数而备受关注,广泛应用于航空航天、精密设备制造等领域。尤其在航空航天领域中,亟需低密度、高强度的结构件。增材制造技术具有能制备形状复杂、精度要求高的结构件的优点。本论文利用选区激光熔化增材制造技术（SLM）制备FeNi因瓦合金,研究增材制造工艺参数及热处理工艺对FeNi因瓦合金的微观组织及性能的影响,为后期制备低密度、高强度因瓦合金结
机械优化设计是在已有的机械结构基础上,实现产品性能升级。传统的机械优化设计主要依靠计算机辅助设计工具进行仿真模拟,存在模型更改频繁,设计报错等缺点。基于计算方法的机械优化参数化设计,可以快速为产品结构改进提供尺寸选择与理论支持,提高工作效率。差分进化算法是基于群体理论进行全局搜索的智能算法,具有原理简单、实现方便,并且具有受控参数少、鲁棒性高的特点,在机械优化领域应用广泛。但是,差分进化算法在处理
孔是飞机制造工程中最常见的结构特征,广泛应用于框、肋、壁板、蒙皮等各零部件上。孔的加工质量直接决定飞机寿命与飞行安全,一旦出现几何偏差,装配所引起装配应力将使飞机安全面临严重威胁。传统的精密钻孔检测,依赖人的主观判断,检测精度低、效率低、不能实施实时在线检测,已经没有办法符合科技化生产加工的检测需求。基于机器视觉的检测技术优势突出,主要表现为检测效率高、检测精准度高,自动化程度高等。随着国内智能制
结晶型高分子因其优良的性能和可调控的特点而受到广泛关注。目前,对于高分子结晶的研究已经取得了许多进展,形成了较完善的结晶理论。具有端基间相互作用的遥爪高分子结构显著不同于传统高分子,其结晶行为还有待深入研究。本论文制备了2-氨基-4羟基-6甲基嘧啶（UPy）端基官能化的遥爪聚丁二酸丁二酯（PBS-UPy）,系统研究了端基间四重氢键作用对聚丁二酸丁二酯（PBS）链结晶的影响规律;并在此基础上,通过分
纽结理论距今已有一百多年的发展历史,在研究纽结的过程中需要用到几何、数论、代数等方向的工具。而它作为低维拓扑的一个重要分支也对生物、化学等其它科学领域产生了影响,如生物遗传因子的排布、化学物质的空间排布等。研究纽结或链环是否等价是纽结理论的核心问题,较为简单的纽结是否等价可以通过观察其纽结投影图来判定。已经能通过计算机算法对部分纽结或链环是否等价进行判定,但对于较为复杂的纽结或链环仍需要引入纽结不
随着建筑技术的发展,城市建设高层及超高层建筑成为普遍现象,从而衍生出各类高层建筑维护工作,包括清洁窗户、涂漆和探伤等各种任务。在进行高空作业的行业领域中,使用立面运动机器人替代传统的人工作业具有显著优势,立面作业机器人的关键技术之一是立面运动平台技术,其难点在于越障及姿态调整能力有限。为此,以高空清洁机器人为应用特例,本文通过对平台运动技术和姿态调整技术的研究设计了一款用于楼宇清洁的高空立面自适应
运河城市的发展离不开运河,运河兴则城市兴,运河衰落,城市也随之衰落。临清中洲古城就是一座随运河兴起而兴起,随运河衰落而衰落的城市。由于社会发展的进步,人们忽视了对运河的保护,给运河的环境造成了破坏,水质恶化,河道淤积,运河两岸的景观状况不容乐观,失去了往日的生机与活力。随着京杭大运河申遗成功及有关政策相继提出,越来越多的目光转移到运河上来,也有越来越多的人参与到运河的保护当中。本文运用了景观生态学
试井是油气田开发过程中广泛使用的技术,一直以来都是油藏工作者的重要研究对象,而数值试井是未来试井技术的发展方向。边界元法是近几十年来发展迅速的数值方法,具有计算速度快,数据准备简单等特点,因此,将边界元法应用到数值试井中具有一定的理论意义和现实意义。本文利用边界元法,借助物理上的基本解和边界积分方程对经典试井模型进行求解。对均质油藏、双重孔隙介质油藏以及复合油藏试井模型的控制方程进行拉普拉斯变换,
地震波场数值模拟在地球物理学中占有重要位置,借助波场模拟可以发现波在地下各种介质中的传播规律,进而为全波形反演提供基础。目前,常见的波场数值模拟方法有有限差分法、有限元法、伪谱法、边界元法等,这些方法各有其优缺点。有的编程简单,计算量小;有的能适应复杂边界条件以及物性参数变化剧烈的介质;有的能够明显压制数值频散,达到高阶精度等。在本文中引进间断有限元方法进行波场数值模拟,它继承了传统有限元的优点,
随着时代的进步,艺术的多方面快速发展,以及多元素文化涌入影像的创意,影像创意的思维也日渐多元化,创意思维的艺术冲击力与情感表现力也越来越强,吸引到越来越多的关注度,引导了当代前卫影像创意制作者和艺术家审美变化,同时影像创意的思维在艺术的表现力和传达上也是有自己独特的优势。本文研究针对的是影像创意思维的探索,首先对影像创意思维发展脉络做了基本的总结与梳理,以思维的变化引出对创意思维的思考与辨证,而后