基于进化算法的神经网络结构优化研究

来源 :广东工业大学 | 被引量 : 4次 | 上传用户:ZYXN
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
神经网络和进化计算是计算智能的重要组成部分。神经网络结构的规模影响神经网络的学习能力与泛化能力。结构过小学习能力不够,结构过大泛化能力减弱。结构优化算法就是使神经网络能学习到一种合适的结构,在学习能力满足要求的同时其泛化能力保持最好。模拟生物进化的进化计算正是一种优良的寻优方式。本文研究的对象为函数逼近的BP神经网络结构。研究分三方面内容:神经网络学习算法的研究;函数复杂度的研究;进化算法优化神经网络结构的研究。首先分析了神经网络结构优化算法的各种方法。指出了用于函数逼近的BP神经网络的三种缺陷,并针这些固有的缺陷对LMBP算法进行神经网络结构优化进行了研究。通过改进LMBP算法,利用二次误差下降与梯度下降及利用误差变化规律分析网络结构的优化程度,自适应的增加隐层神经元或网络层次,从而得到一个合适的网络结构。第二部分研究是对逼近的函数其复杂度的研究。在改进的LMBP算法的大量仿真实验数据分析中发现函数的拐点越多则用于模拟它的神经网络结构越复杂。由此,本文提出了一种简单的复杂度估计方法,这种方法以经验数据为依据,根据样本对测量出的拐点数粗略估计神经网络的初始结构。第三部分研究了进化算法对神经网络结构的优化。在几种进化算法里,生物共生并行遗传算法的特点适合用于神经网络结构优化。将同一结构的不同个体看成一个子种群,不同结构的若干子种群看成一个大种群。子种群里进行选择、交叉、变异,子种群间进行信息交换,从而达到权值与结构同时进化的目的。基于这种思想设计了共生并行遗传算法,结合改进的LMBP算法进行了仿真实验,同时给出了仿真结果进行的分析,提出了进一步工作方向。
其他文献
智能规划识别是人工智能研究中一个很活跃的研究领域,它已经被广泛地用于自然语言理解,知识推理,情景演算,agent助手等多个研究领域。尤其近来有学者将规划识别技术与入侵检
工作流技术是近年来计算机应用领域中迅速发展的一项新技术,作为工作流技术的实现,工作流管理系统已广泛应用与众多行业中。工作流系统成功的关键在于输入的工作流的质量。因
建设主题网关,是综合风险防范研究的重要组成部分,其中对信息采集技术的研究尤为重要。本文针对主题网关的不同信息来源,采取定向Extractor、深度Extractor两种方式进行信息采集
随着海洋各方面数据的完善及空间分辨率的提高,水质预报系统的计算量也越来越大。短期预报系统的串行程序运行效率都很低,如果延伸至更长时间的预测,执行时间上将会更长,这不仅造
随着计算机多媒体和网络技术的迅速发展,人们对各种人机交互界面的人性化程度要求越来越高。人脸动画作为人机交互中的重要技术之一,在三十多年来一直是计算机图形学领域的研究
随着硬件设备计算能力的迅速提高以及社会需求的不断变化和增长,嵌入式系统变得越来越复杂,这对嵌入式实时软件开发的各个阶段(从系统分析、设计到实现、验证)均带来了新的困
随着计算机技术的发展,Internet在过去十几年中迅速发展,其规模的迅速膨胀和用户数量的急剧增长不仅对网络设备提出了更高的要求,也对网络拥塞问题的研究提出了新的挑战。现有的
入侵检测技术是现代计算机系统安全技术中的研究热点。生物免疫系统保护了生物体不受外来病原体(包括病毒、细菌等)的侵袭,它在生物体内的作用与计算机领域的安全系统有着惊人
近年来,随着Internet技术和信息化建设的快速发展,开发基于Web的应用系统的需求越来越复杂,开发周期越来越紧迫,同时对系统的稳定性、扩展性和可维护性要求也越来越高。为了提高
信息网络和计算机已经成为人们生活、学习和工作中必不可少的一部分,在带来便利的同时也伴随有大量重大网络安全事件的频现。而且大部分的网络安全事件均是由黑客利用漏洞进行