基于稳健性改进的极限学习机回归算法研究

来源 :湘潭大学 | 被引量 : 0次 | 上传用户:cxcsmile
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
标准极限学习机是一种具有拟合能力强、模型结构简单、泛化性能好和学习速度快等优点的神经网络。这使得它近年来得到了国内外诸多研究者的重点研究和应用。但标准极限学习机也仍然存在着一些缺点,例如在对ELM模型进行训练的过程中,当隐含层设计阵列与列之间存在多重共线性关系时,即隐含层设计阵呈现病态,会导致ELM模型泛化性能和稳健性变差。针对这一情况,许多学者提出一些改进算法,如岭回归极限学习机,基于主成分估计的极限学习机。本文在岭回归ELM算法的基础上,对ELM模型的网络结构和算法进行了分析和研究,提出了一种基于条件指数和方差分解比的极限学习机回归算法(CV-ELM)。本文主要从下列几个方向开展了研究工作:(1)对极限学习机的发展背景、现实意义和国内外研究现状进行了简要的介绍,对标准极限学习机和多种基于稳健性改进的极限学习机,如岭回归极限学习(RELM)和基于主成分估计的极限学习机(PC-ELM)的理论进行了介绍和分析,重点分析了标准ELM、RELM和PC-ELM等算法的缺点与不足。(2)通过对标准ELM和基于稳健性改进的极限学习机的算法流程的分析,本文提出了一种基于条件指数和方差分解比的极限学习机回归算法。该算法首先利用条件指数和方差分解比对模型的隐含层设计阵进行了预处理,分离出了设计矩阵中的干扰项,再利用岭参数对干扰项进行加权,最后通过最小二乘估计方法计算获得输出权重的值。实验结果表明,该方法靶向针对干扰项进行处理,避免了岭回归方法对设计矩阵中的非干扰项造成影响,并且保证CV-ELM与岭回归极限学习机稳健性相当的情况下,CV-ELM的训练精度有了一定的提升。为了验证CV-ELM算法稳健性和泛化性能,本文在不同规模的回归数据集上进行了多次较充分的比较实验。(3)ELM算法获得广泛运用的部分原因在于其输入权重和隐层偏置是随机生成的,CV-ELM算法也继承了标准极限学习机的这个特点,但这样会导致CV-ELM算法的稳健性变差。为了克服CV-ELM的这一缺点,本文引进集成学习方法,提出了一种基于集成学习的CV-ELM回归算法(ECV-ELM)。该方法先利用集成学习方法产生多个子CV-ELM学习器,再通过平均法对最优的一组子学习器进行集成,从而获得好的网络模型。实验结果表明,ECV-ELM算法可以使若干个子CV-ELM学习器之间产生互补,从而使得模型的泛化性能和稳健性得到了提升,并且集成的子学习器的数目并不是越多越好。
其他文献
目的:本课题旨在比较中西药序贯疗法与单纯西药治疗肝胃郁热型胃食管反流病(Gastroesophageal reflux disease,GERD)的临床疗效及复发情况,总结出中西药序贯疗法治疗GERD的临床意义,为中西药序贯疗法治疗GERD的推广应用提供依据。方法:按照随机、对照、单盲的原则,在2019年5月至2019年10月期间就诊于广东省深圳市宝安区中医院门诊及住院部,经确诊为肝胃郁热型GER
增强现实是一种实时计算摄影机影像的位置及角度并加上相应图像、视频、3D模型的技术,其目标是在屏幕上对现实世界进行虚拟信息的增强并进行互动,以便人们更好地理解真实世界
高温炉辊是冶金连续退火炉中的核心关键备件之一。然而,高温炉辊在高温苛刻的服役环境下易发生氧化、磨损、结瘤等而导致其过早失效。针对高温炉辊存在的上述问题,本文利用等离子喷涂(Air plasma spraying,APS)技术制备了Co Cr Al Ta Y-Al_2O_3涂层,分别研究了喷涂工艺参数、氧化铝掺杂量对涂层微观组织结构、力学性能、摩擦磨损性能、抗高温氧化性能和抗结瘤性能的影响规律,并揭
目前,我国高铁总的营业里程已经超过3.5万公里,而随着8纵8横大网逐步发展完善,安全运营正逐步取代大规模建设,成为未来高铁发展的主要方向。当前,我国铁路运输面临的重大问题主要为运输体量大、机车品种多,钢轨需经受复杂的载荷作用、地理气候、运营工况的考验。相关的安全运营较为落后,如铁路钢轨伤损检测依旧采用传统技术,如超声波检测技术、涡流检测技术、射线检测技术、渗透检测技术、磁力检测技术等,而这些技术难
随着互联网应用的快速发展以及移动智能终端设备的普及,人们对无处不在的高数据速率无线通信的需求不仅给基站(BS,Base Station)带来巨大的流量负载,也造成了频谱资源紧缺、
海底观测网是人类进行海洋观测的有力平台,而自主水下航行器是这个平台中不可或缺的一环,能够实现对海洋环境的大范围动态观测。为了让自主水下航行器的观测具有持续性,且能及时上传观测信息,下载最新指令,水下接驳基站扮演了十分重要的角色。本文主要研究自主水下航行器与水下接驳基站对接前的入坞导航技术。本文提出了一种全新的基于RSS和单目视觉信息融合的自主水下航行器入坞导航方法,利用低成本的导航系统实现了对自主
农业是国计民生的基本保障,是国民经济的基础产业,农业发展需要进行大量、持续的投资,但是回报率却较低,单纯的市场资源配置不能充分满足农业发展的需要,所以,需要政府发挥财政支持作用来扶持农业发展,而财政支持的一个重要手段就是投入财政农业专项资金。仙游县农业种质资源丰富,特色农业优势明显,近年来,仙游县政府注重现代农业发展,财政农业专项资金投入规模不断扩大,但农业产值提升不理想,社会经济效益不够显著。可
随着体育事业的快速发展,体育科研工作者科研水平的提高,统计方法的应用也越来越广泛。从实验(调查)的统计研究设计、数据的收集、整理与描述,到数据的统计分析及结论获得都需要正确运用统计方法,研究者是否正确地使用了统计方法,不仅决定着研究的质量,也决定着该领域研究成果的积累。本研究运用文献资料法、数理统计法、案例分析法、对比分析法对2009年-2018年发表的网球科研论文进行统计分析,希望找出网球科研论
交通量的快速增长对路面性能的要求越来越高,对于沥青路面,改性沥青的应用成为增强路面使用性能的重要手段。沥青检测方法的发展将推动改性沥青的性能研究更科学更高效。沥青是一种对温度非常敏感的材料,而热分析方法可以研究材料物理性质随温度的变化情况。因此,本文基于纳米ZnO(n-ZnO)和纳米TiO2(n-TiO2)这类既具有纳米材料性质又具有半导体性质的纳米材料与SBS复合对沥青进行改性,以提高沥青的抗老