深度极限学习机的研究与应用

来源 :太原理工大学 | 被引量 : 11次 | 上传用户:cestlaviewuyu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,深度学习已经成为机器学习领域的一项新兴研究,其多隐含层的神经网络架构有助于深度神经网络进行逐层的特征抽取以形成数据的高阶表示;贪婪的逐层无监督训练可以作为有监督参数微调过程的初始化设置,解决大数据时代训练标签难以获取的难题。但是,深度神经网络的有监督训练多采用基于梯度的优化准则,在该学习框架中,所有的隐含层参数需要迭代训练,因此,深度结构难以以快速的学习速率实现良好的泛化性能。针对基于梯度类学习算法训练速度慢、泛化性能差等缺点,黄广斌等人提出了一种简便、高效的训练策略——极限学习机(ELM)。在该策略中,单隐层前馈神经网络根据某种概率分布随机选取隐含层输出,避免了参数的迭代微调;鉴于其学习速率快、泛化性能好、不易陷入局部最优,ELM被广泛应用于各种分类和回归问题。然而,ELM的单隐层结构制约了其捕捉高维度数据中有效特征的能力,因此难以适用于大数据时代日益膨胀的数据。基于以上两种算法,黄广斌等人提出一种深度多层极限学习机算法,多层的神经网络结构使其可以提取出数据中高层次的抽象信息;ELM的理论避免了网络权值的反复迭代调整,提高了计算效率;半监督的逐层训练机制解决了很多实际问题中训练标签难以获取的问题。因此,深度多层极限学习机能同时有效地解决大数据时代高维度,大数据,获取标记样本难、构造特征难、训练难等问题。针对深度极限学习机(DELM)算法,本文主要做了以下研究:(1)在机器人抓取识别任务中,针对RGB信息和Depth信息融合问题,本文采用多模态深度极限学习机(MM-DELM)作为多模态融合模型训练方案,可以有效地学习并融合RGB模态和Depth模态中的原始像素信息,并在Cornell Grasping数据集上进行验证。(2)通过实验证明,MM-DELM训练算法极大地改善了识别的准确率,并且遵循着类似ELM的收敛性,其性能在广泛的参数取值空间内很稳定,不同的参数选择并不会造成模型性能大范围的变动。因此,为本文的参数选择提供了依据。(3)在时间序列预测任务中,本文将DELM算法应用于建立局部预测模型。该模型将混合欧式距离作为相似性度量方法,完成训练样本的重组,并采用DELM构建重组样本的预测模型。(4)为了验证DELM预测模型的准确性,选取时间序列数据库(TSDL)的五个数据集作为实验数据集,分别验证了基于混合欧氏距离的DELM局部预测模型在单步预测和多步预测中的泛化性能。
其他文献
本论文以机器人群体协调合作研究为背景,针对机器人群体执行未知环境下大范围环境探测与目标搜索任务案例,深入开展了机器人群体体系结构、地图构建、分区搜索与协调避碰等方
学位
针对国内对GPS姿态测量系统研究的需求,本文深入研究了基于单基线姿态测量系统的关键技术,为实现运动平台的高精度姿态测量提供了依据。   文章首先介绍了GPS系统的组成,GPS
液压舵机作为船舶的动力转向系统,是船舶重要的组成部分。随着液压技术向高速、高压和大功率方向的发展,由于管路中压力冲击而引起的液压舵机系统振动和噪声也日趋严重,成为限制液压舵机进一步广泛应用的重要因素。因此研究分析液压舵机系统中管路动态特性及压力冲击,减少与降低舵机系统中的振动和噪声,对改善液压舵机系统的性能、促进液压舵机系统的应用有着积极而深远的意义。本文从工程实际出发,对某阀控型液压舵机流体管路
伴随着科学技术的发展,数据采集技术也得到了飞速的发展,利用采集得到的数据进行控制的方式也越来越多,在工程项目中也得到了越来越多的应用。传统的数据采集技术主要集中在
超声波具有不受光线影响、抗电磁干扰等优点,适用于高湿度、强腐蚀、多灰尘的各类特殊工业现场,如物位测量、机械手控制、倒车雷达和机器人避障等。在燃爆环境下,超声波测距
学位
当前国家电网发展十分地迅速,超高压输电线路的规模和数量都在不断上升,在电力线路巡检管理中,目前除了采用传统的人工巡检以外,其他常见的电力巡检集成技术包括:(1)信息钮、IC卡巡检;(2)PDA+GPS;(3)PDA+条码。相比过去“先记在纸上,回来再录入”的方式,这三种方法减轻了巡检人员上报数据的工作量,提高了其工作效率。但这些还是不能满足具体工作移动处理的需要,在某些情况下可能应用这些系统之后,
风能作为一种清洁可再生能源,以其分布广泛、蕴含量大、无污染等特点,受到世界各国的青睐。日益成熟的风力发电技术为风电产业的快速发展提供了重要保障。然而,风能的不可控
知识网络概念随着知识经济的兴起,逐渐渗透到社会学、经济学、情报学、管理学、教育学等诸多领域。学科知识网络就是知识网络在教育学领域内的一个应用,它已经发展成为一种有效