BP神经网络训练算法及其应用研究

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:d327315409
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
基于BP学习算法(Back-Propagation Algorithm)的多层前馈型人工神经网络(BP神经网络)及其变形,是当前应用十分广泛的神经网络模型,在诸如模式分类,预测以及模式识别等实际问题方面显示出了强大的求解能力。然而,BP神经网络训练方法在实际应用过程中还存在着学习收敛速度慢,易陷入局部最优,训练失败率高和大规模数据训练耗时的问题。一方面,本文通过分析传统BP算法的优缺点,结合其它领域的技术和理论,提出各种改进算法。另一方面,通过对应用问题的特征分析,结合BP神经网络的特点,提出新的解决基因调控网络重构的方法。并重点研究了BP神经网络训练方法对大规模生物信息数据处理的问题,最后将研究成果应用于蛋白质二级结构预测问题和基因调控网络重构的问题求解上。  本论文的主要研究内容如下所述:  提出了基于反馈误差放大的神经网络学习算法,该算法能够使神经网络在训练过程中尽量少的受饱和区域的影响,快速向期望精度方向收敛。同时,通过引入口袋算法,保证了该算法的收敛性。实验结果显示,该算法可使结构简单的神经网络快速向尽可能高的精度收敛,在提高收敛速度的同时,避免了通过增加网络复杂性来提高收敛精度所引起的网络泛化能力下降的问题。  在误差放大学习算法的研究基础上,通过结合改进的遗传算法,提出了基于注意力模型的混合学习算法来提高神经网络的训练成功率。其中,为了更好的利用遗传算法的寻优特性,我们结合自然界中的进化稳定策略改进了传统的遗传算法,以提高遗传算法向全局最优解收敛的性能,有效改善了遗传算法易陷入局部最优区域的问题。  建立了神经网络分布式训练平台,并提出了基于切片思想的分布式学习算法。借助数据分布与阶段式训练来解决 BP神经网络处理大数据集时训练耗时过长的问题。在引入了基于切片思想的分布式学习算法之后,这种分布式训练策略能有效提高神经网络的训练效率和成功率,使之更适于解决具有大规模训练数据的实际应用问题。  针对基因表达数据噪声多,样本少和高度多维的特性,提出了数据片断模式分析的基因调控网络建模方法。通过提取时序数据片断中的模式来降低噪声对基因间调控关系分析的影响,并使用秩相关分析来进一步提高对噪声的鲁棒性。在此基础上,我们借助对神经网络混合学习算法的研究,针对基因调控时延和联合调控的特性,提出了基于片断模式的基因网络建模方法。在真实的酵母基因时序表达数据,Cdc28数据集上的实验分析结果表明,由于该方法能较好的保持原始数据的信息,屏蔽了部分噪声的影响,从而在基因网络的重构上具有良好的鲁棒性。更重要的是,该方法能有效提取出基因间的调控时延信息,且更有利于多基因联合调控关系的分析。  
其他文献
文中围绕目前Ad hoc网络发展中急待解决的障碍物问题展开,以期能够满足分组时延、通信和计算开销等方面的需求。Ad hoc网络中存在的障碍物可能引发如下问题:一方面,网络可能
随着计算机技术的高速发展以及对编程水平要求的提高,程序设计成为了大学生的必修课程,在教学过程中需要快速准确地对程序进行评测,并将结果及时地反馈给学生。而在教学领域中,传
随着网络技术的日益发展,尤其是Internet的日益普及,网络安全问题受到越来越多的关注。入侵检测系统(IDS)是继防火墙、数据加密等传统安全保护措施后新一代的安全保障技术,得
20世纪末,社交网络的出现迅速吸引了大量的因特网用户,这类提供实时交互功能的网站改变了人们沟通和交流的方式,创造了巨大的社会和经济价值。社交网络规模日益增长的同时也
随着信息时代的到来,作为计算机通信、信息存储、internet网络传输等信息技术的关键环节,图像压缩编码算法的研究是当今信息技术里最活跃的研究领域之一,尤其是进入21世纪以
设计独立于PC机平台的视频图像采集、处理系统是数字视频理论与图像处理理论与嵌入式技术的综合运用。研制出这样的系统并使其具有功能强、性价比高是本毕业设计课题立意之所
目前P2P(Peer-to-Peer)技术发展迅速,并得到广范的应用,特别是在文件共享领域。早期的基于P2P的文件共享系统是非结构化的,例如Napster、Gnutella和Freenet等;而目前的基于P2P的文
自从20世纪80年代,移动通信开始进入公众民用通信领域至今,已经经历了20多年的发展,随着底层通信技术的进步和网络架构的成熟,基本电信业务的各种需求已经得到满足,各种增值
信息技术的发展促使企业内部、企业与企业之间的信息化协作成为必然。在协作过程中,不同的参与方通常应用不同的工具对业务过程建模,并生成相应的规范。这些规范在术语含义、
蛋白质同生物的进化和功能有着密切的联系,掌握蛋白质结构有助于理解生物功能和揭示生物体的本质。随着测序技术的发展,蛋白质序列的数目呈指数形式增长,通过实验方法所获取蛋白