基于自适应粒子群算法的神经网络学习优化研究

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:ilovegigi2
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工神经网络(Artificial Neural Network,简称ANN)已经广泛应用于模式识别、工业控制、经济预测、优化计算等领域,但由于缺乏坚实的理论基础,其拓扑结构设计规则和学习算法一直都是科研工作者研究的重要内容。 粒子群优化算法(Particle Swarm Optimization,简称PSO)是近年来发展起来的一种基于群智能(Swarm Intelligence)搜索的演化计算技术,它从新的角度开辟解决复杂问题的优化途径。该算法建立在严格的理论基础上,具有很强的自组织学习性、自适应性和鲁棒性,适用于并行处理,尤其在高维、多峰、不可微(导数很难求)、连续或离散空间中搜索优化解。 粒子群优化算法和神经网络都具有模拟生物智能化的学习能力,对两者结合的研究逐渐成为当前的热点之一。许多研究人员希望通过结合两者的长处,寻求一种更为有效解决网络设计与优化问题的方法,从而,使得能够更好的理解学习和进化的相互作用关系。在神经网络中应用粒子群优化算法,能有效地克服采用梯度下降法所导致的缺陷。 本文在介绍神经网络和粒子群优化算法的理论基础上,分析了粒子群算法在神经网络结构设计和优化中的应用。通过改进粒子群算法的编码方式和自适应搜索策略方法,提出一种新的基于面向对象的自适应粒子群优化算法(Object-oriented Particle Swarm Optimization,简称OOPSO),并将OOPSO算法用于前馈神经网络的学习训练,以及网络拓扑结构进行设计与优化,结合Iris和Ionosphere标准数据集进行算法测试,最后与其它经典学习算法进行比较。 实验结果表明:基于OOPSO算法训练的多层前馈网络在分类准确率上明显优于BP算法以及标准PSO算法。与BP算法相比,OOPSO收敛速度快且不易陷入局部最优;与标准PSO相比,OOPSO能克服种群多样性易丢失和收敛速度慢等问题。OOPSO算法取得了明显的网络优化效果,提高了神经网络的自适应能力和泛化能力,具有全局快速收敛的性能。
其他文献
粒子群优化算法是群体智能算法的一个新的范例,它是现代启发式最优化算法中的一个新算法。粒子群优化算法起源于社会心理学和人工生命,由于受到群体智能领域的强烈启发,Kenne
计算机的发展影响着社会的方方面面,教育系统也不例外。学生的成绩是学生学习和教师劳动的体现,也是国家、社会选拔人才的参考材料之一。本着为提高阅卷教师的工作效益、评卷