基于自适应差分进化算法的轻量化卷积网络结构搜索方法

来源 :大连海事大学 | 被引量 : 0次 | 上传用户:yr
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
卷积神经网络是目前深度学习领域重要的研究方向之一,广泛应用于图像分类、图像分割以及目标检测等领域,尤其在图像分类任务中可以达到更好的识别效果。而图像分类的准确率深受网络结构和参数的影响,所以对于网络结构以及参数优化问题的研究具有非常重要的意义。人工设计网络结构通常需要专家的设计,这个过程耗时并且容易出错。因此神经架构搜索作为一种自动搜索网络架构的方法受到了广泛应用。差分进化算法作为NAS的一种搜索策略,利用并行处理的方式引导式的随机搜索,通过变异和交叉操作使网络进化到更高的水平。DE作为一种基于差分向量的进化方法,使用变异策略实现变异操作。很多针对变异策略改进的变体已经被广泛应用于诸多领域。但是DE依然存在一些问题,比如单一的变异策略设计容易陷入局部最优解。另外现存差分进化算法的参数大多由初始化设定,难以高效的搜索到最优网络结构。针对上述问题,本文使用自适应的差分进化算法搜索卷积网络结构,并在图像分类数据集上验证网络性能。具体研究包括:(1)本文使用一种基于层次模块化的搜索空间。在该搜索空间中,神经网络结构被简化成搜索单个模块的任务。本文将原Alex Net网络结构改进成对于两个模块的搜索。实验结果表明模块化搜索空间收敛速度更快。(2)本文提出一种自适应选择变异策略的差分进化算法。在该搜索策略中,进化过程根据阈值划分进化阶段,初期在全局范围内搜索;中期加入拥挤度排序的思想,结合两种新的变异策略进行局部和全局兼顾的优化;后期在邻域范围内进行搜索。通过实验证明此自适应变异策略可以提高图像分类的准确率。(3)本文提出一种自适应的差分参数调整策略。首先将成功进化的个体对应的参数记录下来,并依据这些参数选取对应的均值,然后依照均值构建概率分布并在其中选择下一代参数。实验证明自适应参数可以极大减少计算量。
其他文献
升船机在设计过程中,为了降低升船机电气拖动系统的功率和减少工程造价,在满足设计船型尺度和货运量的前提下,总是把承船厢尺寸和厢内水深减小到最低限度,因此承船厢的断面系数一般很小,船舶进出承船厢时存在比较明显的阻塞效应,导致船舶进出船厢时存在下沉情况,会给航运带来安全隐患。因此在船舶通过升船机过程中对船舶的吃水和航速状况管控应更为严格。为了解决这一问题,本文首先对船舶进出船厢这一过程进行研究,分析造成
学位
水下机器人对海产品自主检测和自主抓取、水下航行器自主航行以及水下工程探测等研究领域都是建立在熟悉海洋环境的基础上,在不了解海域环境的情况下,将会造成严重的后果。因此,高清的水下图像是开展海洋研究的重要条件,但受到洋流和拍摄相机抖动的影响,导致拍摄出来的水下图像存在色偏、对比度不足和图像模糊等现象,获取和拍摄高清的水下图像是困难的。同时,视觉感知对于机器人本身来说是非常重要的,因为它可以提升水下机器
学位
在日常生活中,当私家车车主想要了解汽车配置信息或者解决日常用车问题时,会通过在社区或者汽车问答平台提问的方式获取解决方案,但由于私家车用户基数过于庞大而在线汽车问答平台有限,用户往往不能及时地得到个性化的解决方案。而在线汽车问答平台中积累的问答文本数据中包含大量针对私家车具体问题和咨询的解答和建议,因此研究如何对这些文本数据进行挖掘和利用,并构造出一个提高私家车用户获取建议和解答效率的智能问答系统
学位
COVID-19疫情的暴发,给国际、国内航运都带来了深远影响,集装箱的空箱供应出现全球性紧缺,空箱供应和运力不足直接导致集装箱运费快速上涨,在此背景下,集装箱的综合利用显得尤为重要。合理的装载方案可以优化企业从产品接单、装载,到运输环节的有关配置,从而获得更大的经济效益,因此求解三维集装箱装载问题,对当前环境下的企业生产、物流运输显得尤为重要。经典三维集装箱装载问题的典型求解方法包括启发式、元启发
学位
报纸
<正> 贺某,女,34岁。1989年6月初诊。因发热恶寒,伴有眩晕、恶心、不欲食、盗汗,肢倦乏力3天而入院。症见头晕不能坐起,自觉身冷,胃脘部冷甚,腹胀,周身不适。语声低弱,面色萎黄,唇淡,舌质淡,苔白腻湿润,表面黑,脉弦滑而数。体温39.2℃,血压12/5kPa.1周前患菌痢,已愈。体检无阳性体征。血常规:血红蛋白120g/
期刊
随着智能设备的不断发展改进以及定位设备的不断普及,移动设备所产生的数据量逐步增多,为轨迹的数据挖掘奠定了坚实的基础。挖掘出隐藏于事物自身的运行规律,将其应用到人们的日常生活中,例如导航、车流量预测、路网更新和城市智慧交通发展等方面。当前,在轨迹数据挖掘中轨迹异常检测不断引起重视,将采集到的历史轨迹进行不断的分析可以得到隐藏于其中的轨迹运行模式,判断轨迹是否存在异常。当前,轨迹数据挖掘中的异常检测不
学位
高光谱图像包含了丰富的光谱信息和空间信息,得益于较高的光谱分辨率,图像中任意一个像素点都能获取到一条连续的、具有诊断性的光谱曲线,为地物判别与分析提供了重要的数据支持。随着深度学习的快速发展,许多深层次的网络模型被应用到了高光谱图像分类中,凭借强大的信息提取与特征学习能力,深度学习方法已经成为高光谱图像分类领域的研究热点。然而,由于高光谱图像维数较高,传统深度学习的输入框架会造成大量的数据冗余,导
学位
随着互联网在各行各业逐步应用,各种各样的数据都需要筛选并处理,如何在这些海量数据中快速找到需要的数据是目前数据库领域中非常重要的研究课题。Skyline查询能够在庞大的数据量中快速找到用户需要的数据,是解决多目标决策问题的重要手段之一。随着skyline查询的发展,已经衍生出许多变种查询,其中动态skyline查询是非常重要的变种查询之一,它能够有效地扩展skyline查询的应用范围。相比于常规s
学位
自新时代体教融合提出以来,学界已围绕其开展了诸多研究。本研究以“2W1H”知识框架为脉络,对现有的体教融合研究成果进行了梳理、归纳,并提出相应展望。研究表明:在“何为”层面,既有研究多从体教融合的概念、内涵和价值等维度对进行系统概述;在“为何”层面,体教融合的创设体现出国家、体育和青少年个体三者全面统一的生成逻辑;在“如何”层面,学界则较多关注其实施的影响因素与具体策略。未来可从强化体教融合基本认
期刊