回声状态网络学习机制的研究及其应用

来源 :北京邮电大学 | 被引量 : 0次 | 上传用户:dfly1818
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着人工智能在生活中的广泛应用,人工智能领域相关技术的研究也引起了广泛的关注。回声状态网络(Echo State Network,ESN)是人工智能领域中的一种重要方法,作为一个非线性的自适应动态系统,其包含大量通过突触相互连接的人工神经元,通过模仿人脑的结构和神经网络的行为特征,进而实现分布式和并行信息处理的功能。因其较快的学习速度成功应用到时间序列以及网络流量的预测中,成为目前研究的热点之一。在回声状态网络的研究中,一直存在储备池中神经元之间的随机连接以及输出突触的全连接降低网络预测性能的问题。针对上述问题,本文主要从输出突触连接结构、储备池内突触连接方式以及神经元连接结构等三方面对回声状态网络进行了研究。以下是本文的具体工作:第一,本文提出一种具有稀疏输出突触的回声状态网络,并将其应用于混沌时间序列的预测。本文发现并验证了回声状态网络中冗余输出突触连接的存在,提出了一种基于能量效率的定位冗余输出突触的方法,并分析了冗余输出突触存在的原因。使用改进的使网络具有高能量效率的输出突触对比其他四种不同的输出突触,并分析所改进的网络预测性能。本文给出了不同混沌系统的数值模拟仿真实验,在混沌时间序列的预测中,具有稀疏输出突触的回声状态网络的预测性能更好。第二,本文提出一种基于忆阻器的回声状态网络(Memristor-based ESN),并将其应用于混沌时间序列的预测。忆阻器是一种具有自身电阻状态的存储功能的设备。通过将忆阻器的特性引入到回声状态网络中,用忆阻器代替回声状态网络储备池中的神经元之间的连接突触,改进了储备池中神经突触的随机连接性,提高了储备池的记忆能力和网络的预测性能。对所提的基于忆阻器的回声状态网络在应用广泛的混沌时间序列预测中进行了仿真实验,与经典的回声状态网络从三个方面进行了对比。同时,与其他回声状态网络变体进行了对比。对比实验结果表明,基于忆阻器的回声状态网络提高了网络的预测精度和预测性能。第三,本文提出一种基于Dropout方法的回声状态网络(Dropout ESN),并将其用于网络流量预测。将Dropout方法引入到回声状态网络中,经典的回声状态网络储备池的随机性得以减弱,储备池内神经元的连接度得以降低。同时将基于Dropout方法的回声状态网络应用到实际的网络流量预测任务中,设置了储备池内神经元以不同的概率停止工作,从三个方面将改进的回声状态网络和经典的回声状态网络的预测性能进行对比。同时,与其他网络进行了对比。对比实验结果表明,本文所提的基于Dropout方法的回声状态网络对网络流量预测性能更优。
其他文献
各种钢制构件或零件在使用过程中会因受到循环扭转荷载的作用而发生疲劳破坏。现有疲劳理论框架下,钢在扭转循环下的疲劳寿命规律需通过系列疲劳实测数据的拟合曲线来进行描述。这种基于经验方法测得的结果,不能反映钢扭转疲劳失效的细观机制。在一些使用环境下,氢通过扩散等方式进入钢内部,导致其力学性能如强度、抗疲劳性能等严重退化。而钢的氢致失效,限于实验条件,主要集中于轴向(单调或往复)加载下的损伤破坏研究,对钢
红树植物生长于热带、亚热带海岸潮间带,具有重要的生态服务功能。其特殊的盐生生境使红树植物木质部处于较高张力水平(较低水势),发生气穴化栓塞的风险高。目前对红树植物的水力结构与功能还缺乏系统的研究,红树植物木质部结构特征对水力功能及其生态适应性的影响机制还不清楚。本研究通过对中国海南和澳大利亚东海岸(新南威尔士州、昆士兰州)采集的红树植物进行水力结构和功能关系的研究,从以下三个方面来探讨木质部水力结
中国是世界上绒山羊遗传资源最丰富的国家,绒山羊饲养量、山羊绒产量和绒毛品质均居世界首位。其中内蒙古绒山羊是我国优良的地方品种。理解自然群体中表型变异的遗传结构是进化遗传学的一个基本目标。内蒙古绒山羊的角形态在两性中都具有遗传多态性(角大小不一或无角,存在遗传变异),确定角性状的遗传基础将为理解自然选择中不同形态的维持提供重要的理论基础。目前尚未见对绒山羊角性状变异解析研究的相关报道。因此,本研究以
碰撞和摩擦是造成马铃薯在机械化收获、清选和分级过程中出现损伤的主要原因之一。马铃薯块茎组织碰撞损伤和表皮摩擦破损影响了马铃薯的存储、外观品质和销售,给马铃薯产业带来了巨大的经济损失。对马铃薯块茎及表皮的碰撞特性和损伤机理进行研究,对促进马铃薯产业快速发展具有重要意义。本文通过理论分析、试验研究、有限元分析和离散元仿真,对马铃薯块茎及表皮的力学特性、马铃薯碰撞接触力数学模型及其影响因素、马铃薯碰撞接
随着移动通信技术发展,在2/3/4G语音业务和数据业务的基础上,5G/6G移动通信、WiFi无线局域网、物联网(Internet of Things,IoT)、车联网(Internet of Vehicle,IoV)等网络技术不断演进,各种手机、智能终端、物联网模组、智能车辆都同时接入无线网络。在万物互联的社会需求以及各种业务爆炸式急速发展的背景下,如何确保不同种类的用户感知和业务保障是个急需解决
在一个国家的经济发展进程中,生产性服务业扮演着极其重要的角色,在发达国家中尤为如此,这是提升其国际竞争力的一个重要因素。“嵌入式”生产服务是生产性服务业的核心和重要组成部分,是经济发展的动力。“嵌入式”生产服务业的特点是“内嵌式”,可以在很大程度上拉动国家经济的发展。“嵌入式”生产性服务业更是实体经济的坚实组成部分,其实体经济知识含量高,人力资本密集,并且其所对应的产品附加值高,生产能力强,进而带
目前煤炭资源大规模高强度的开采,对地下水环境产生了严重的负面影响,尤其在缺水地区采煤对水资源的破坏更加剧了缺水地区水资源的危机。采煤不仅仅要确保安全生产,防止在采煤过程中溃水、溃砂或涌水等,另一方面还需要对有供水意义的含水岩组或水体进行保护。矿区地下水资源短缺和破坏的根本原因是煤炭开采导致含水层结构变异,最终影响区域地下水循环,使得地下水资源由原来可供开采的优质水源变为污染的矿坑水被排走。以往的研
湄公河是我国西南地区和东南亚最重要的一条国际河流,流域内涉及中国在内六个国家。大多数关于湄公河流域合作的研究集中于利益分享可以给合作带来机会,少数学者开始关注利益分享模式的构建,但对流域内行为体的利益偏好和中国在湄公河治理中利益分享的具体实践鲜有探讨。水利益分享是实现跨界河流公平合理利用的一种重要方式。本文根据利益分享理论,分析中国与下湄公河国家不同的利益诉求间的矛盾,考察从参与原有机制到主导建立
近些年来,在“宽带中国”战略、“互联网+”行动计划及5G技术的持续推动下,移动互联网、云计算、物联网、视频等业务迅速发展。光通信网络为适应新网络形势下大带宽和海量连接的特点,对底层承载网在容量和灵活性方面提出了新的需求,这给传输中和网络节点处的信号处理技术带来了很大的挑战。目前光通信网络的信号处理由微电子技术主导,但是依靠缩尺效应来提高集成电路处理速度的方法已慢慢趋向于理论上的极限,有限的电处理速