极限学习机算法及其在高炉冶炼过程建模中的应用研究

来源 :浙江大学 | 被引量 : 0次 | 上传用户:xiaoqiudyy1988
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术的快速发展,基于数据的机器学习算法在工业过程建模中扮演着日益重要的角色,特别是对于那些结构复杂、机理不明的非线性时变系统。极限学习机(Extreme Leaning Machine, ELM)是最近几年才出现的一种新的机器学习算法。与传统的核学习算法相比,ELM不仅具有良好的泛化性能,还表现出训练速度快、算法简单易实现以及人为干预参数少等优势,在复杂系统建模、大规模样本学习以及实时在线预测等问题中表现出巨大潜力。目前,ELM理论和应用方面的研究正吸引着国内外越来越多的关注。本文围绕ELM算法的若干理论问题及其在高炉冶炼过程建模中的应用展开研究,得到的主要研究成果总结如下:(1)从两个新的角度——VC维和在不同训练样本规模下的算法性能——对ELM和支持向量机(SVM)做了比较研究。严格证明ELM的VC维以概率l等于其隐含层神经元个数。这为根据统计学习理论对ELM泛化性能的界进行理论估计提供了依据。而在不同训练样本规模下的比较研究表明:在较大训练样本集上,两者具有相近的泛化性能;但在小样本集上,前者的泛化性能及其稳定性要低于后者。这些结论是对当前现有研究结果的有益补充。(2)针对ELM的模型选择问题,完成了两方面的工作。一是针对回归和分类两种情形分别给出了ELM的快速留一交叉验证算法,并首先从理论上证明了其正确性,然后基于数值仿真验证了其有效性。二是提出了一种新的基于VC泛化界的ELM模型复杂性控制方法,仿真实验表明,在小样本情形下,该方法的性能明显优于其它4种经典统计模型选择方法。(3)基于Johnson-Lindenstrauss定理和仿真实验,首先指出了造成ELM算法训练和测试性能算法不稳定以及小样本情形下建模性能差的两个原因:随机投影的距离保持性能和随机特征向量各分量的分布稳定性;然后,通过输入层权重正交化,适当控制隐含层结点个数,并结合结构风险最小化原则,提出一种距离保持ELM算法(Distance Preserving ELM, DP-ELM),有效地解决了原ELM算法存在的以上两个问题;最后,仿真实验验证了其有效性。(4)为了增加ELM模型的透明性,研究了若干种不同类型的先验信息在ELM算法中的融合问题。首先,通过构造对称激活函数建立了对称ELM,并证明其具有以任意精度逼近任意有限样本的逼近能力,仿真实验表明,对称ELM需要更少的隐含层神经元个数和更短的训练时间,同时能够获得更高的泛化性能。其次,还给出了若干线性等式先验信息在ELM中的融合算法,具体包括:已知特定点函数值、特定点导数值以及各输出函数间依赖关系的先验信息,这些算法能有效地增加ELM模型透明性并改进其逼近性能。(5)在ELM算法框架下,对高炉冶炼过程的数学模型进行了探讨,分别建立了高炉铁水硅含量的数值预测模型、趋势预测模型以及烧结矿化学成分预测模型。首先,建立了高炉铁水硅含量的ELM和DP-ELM数值预测模型,并与BP神经网络和SVM算法做比较,分析了所建立模型的优缺点,并指出DP-ELM和SVM性能相近,优于ELM和BP神经网络;然后,基于ELM和DP-ELM分类器输出的后验概率属性建立了高炉铁水硅含量的趋势预测模型,实现了高炉炉温的变化趋势预测以及相应后验概率的估计;最后,根据烧结过程自身的特点,在ELM框架下建立了融合领域知识的烧结矿化学成分预测模型。仿真实验表明,在ELM这种黑箱建模框架下融合先验知识对于提高模型性能具有重要的作用。(6)针对ELM/DP-ELM算法对冗余变量敏感的问题,提出了基于留一误差梯度的DP-ELM特征伸缩算法(FS-DPELM),并据此探讨了高炉冶炼过程新的建模方法。首先,严格推导出特征伸缩因子和拉格朗日乘子关于留一交叉验证误差的梯度计算公式;然后,结合BFGS拟牛顿法给出了FS-DPELM训练算法。仿真实验表明,基于FS-DPELM算法能够进一步提高高炉铁水硅含量以及烧结矿化学成分的预测精度。此外,FS-DPELM的特征伸缩因子为特征选择提供了一种新的数量依据,特征筛选后的高炉铁水硅含量FS-DPELM预测模型具有更好的预测准确性和稳定性。
其他文献
<正>2014年11月1日修订的行政诉讼法第五十三条、第六十四条关于规范性文件审查的规定正式确立了我国行政诉讼制度中对部分抽象行政行为的司法审查制度,是此次行政诉讼法修改
为了更好地增强图像,提出一种新的图像增强方法。首先,将图像分为若干子块,计算每个子块的对比度,根据子块的对比度确定局部点的密度,进而确定子块的个数,然后采用保持亮度的双直方图均衡算法对这些子图进行增强,最后融合各个子图得到最终增强的结果。实验测试结果表明,本算法能够保持均值亮度,提高处理速度,在减少过增强的基础上,增强局部细节,增强后的图像具有良好的视觉效果。
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
物联网技术最早出现是在20世纪70年代,随后经过不断的发展到现在才逐渐在各行各业中进行应用。作为一个比较新颖的行业,在应用的过程中有需要摸索的地方。而随着国家电网将物
畸胎瘤是一种来源于胚胎多能干细胞的肿瘤,其组成成分复杂,一般含有2个胚层以上的多种成分,结构混乱。常见发生部位为卵巢、睾丸、前纵隔、腹膜后腔及骶骨前的区域。胎盘部位
目的研究临床实习生医患沟通能力培养及教学改革效果。方法选择2017年1月~2019年2月来我院实习的80名医学院校学生进行研究,其中2017年1月~2018年1月的40名实习生未给予医患
目的:探讨双侧解剖型钢板治疗复杂性股骨远端骨折的临床疗效。方法:回顾性分析行双侧解剖型钢板治疗的32例复杂性股骨远端骨折患者的临床资料,以术后膝关节Kolmert评分及是否骨
从问题导向和创新的视域,研究得出红旗渠是正视、分析、研究、解决问题的典范。红旗渠不仅是创新的结晶,而且创新贯穿其建设始终。问题导向和创新思想是红旗渠及其精神的现实
目的:通过对32例重症胰腺炎患者临床护理观察及早发现合并症,给予及时有效的处理措施,为抢救赢得宝贵时间。方法:密切观察胰腺炎患者出入量、意识、精神与神经系统方面的异常,
镍冶炼转炉渣中含有钴、镍、铜等有价成份,从转炉渣中实现钴镍铜等有价金属的回收具有重要的经济价值和环保意义。本文从矿物学、热力学等方面对转炉渣中有价金属的富集、分离