基于GEP的人工神经网络在预测问题中的应用

来源 :中国地质大学(武汉) | 被引量 : 0次 | 上传用户:peiyingbin
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
预测理论作为一门综合性的学科,广泛应用于经济、社会等领域,取得了巨大的发展。所谓预测问题,实质上就是以过去的已知状况作为输入,在预测算法作用下,取得未来结果输出的过程。为了适应预测的时效要求,预测理论正逐步向智能化方面发展。 随着计算机的发展,计算机技术在各个领域中得到广泛的应用,催生了许多新兴的学科,生命科学和工程科学的相互交叉和相互促进成为新兴学科的一个典型的代表,也是最近学术研究的一个研究热点。现代科学理论研究与实践中存在大量与组合优化、数据分析等相关问题,使用常规方法解决这些问题,有时候显得无能为力。正因为这样,人们模仿生物的遗传和进化机制,模仿人脑的神经元反应原理得到了智能计算的两大学科——进化计算和人工神经网络。这两大学科在现实生活中的应用越来越广泛。由于具有强大的搜索能力,因此进化计算可以解决很多常规方法无法解决的问题。 本文首先研究了前馈型神经网络,尤其重点研究了BP神经网络和径向基函数神经网络。BP(Back Propagation)神经网络,即多层前馈式误差反向传播的神经网络,是人工神经网络中最具有代表性和广泛应用的一种,其主要优点是:1)只要有足够的隐层和隐节点,BP网络可以逼近任意非线性映射关系;2)BP网络的学习算法属于全局逼近的方法,因而它具有较好的泛化能力;3)BP网络有较好的容错性。而缺点是收敛速度慢,容易陷入局部极小点。 径向基函数(Radial Basis Function,RBF)神经网络是一种具有单隐层的三层前馈神经网络,其主要优点是:1)网络结构和学习算法与BP网络有着很大的差别,在一定程度上克服了BP网络的缺点,例如,比BP神经网络具有更快的学习速率。2)RBF网络是一种局部逼近网络,它能以任意精度逼近任意连续函数而且还不存在局部极小值问题,因而具有优秀的全局逼近能力。而缺点是:RBF网络的设计问题就是关于网络隐层节点数和隐层节点RBF函数中心、宽度和隐层到输出层的权值的性能指标的最小化问题。尽管性能指标对函数中心和连接权值是连续可导的,但对于隐层节点数却是非连续非线性的。这对于需要目标函数的导数信息的传统化方法是很困难的。 其次本文简要介绍由C.Ferreira发明的一种新的遗传算法一基因表达式编程(Gene Expression Programming,GEP),它结合了基本遗传算法(Genetic Algorithm,GA)和遗传规划(Genetic Programming,GP)的优点,克服了它们的缺点,GEP采用特殊的编码方式和翻译系统,将GEP的基因型和表现型巧妙的结合在一起,在解决符号回归、序列推理、时间序列等问题上,它具有比遗传规划更优的性能。 最后本文在前人工作的基础上,利用GEP分别对BP网络和RBF神经网络进行优化,并分别提出了一种基于GEP的BP神经网络和一种基于GEP的RBF神经网络,通过测井数据验证,结果显示该混合模型比单独使用BP神经网络,RBF神经网络模型具有更高的预测精度,但时间复杂相对而言比较高。 本文工作主要包括: 1.提出了基于GEP的BP神经网络(GEP-BP)的预测算法在参考了目前将遗传算法与神经网络的结合方法的基础上,利用GEP优化三层BP神经网络的连接权和网络结构。由于GEP在进化过程中能以较大概率搜索到全局最优解存在的区域,在GEP搜索到最优解附近时,却无法精确地确定最优解的位置:为此本文进一步采用从进化后的结果中,再次利用BP算法对进化后的网络权值进行精调。这为我们利用神经网络方法进行预测建模研究,提供了新的思路。 2.提出了基于GEP的RBF神经网络(GEP-RBF)的预测算法GEP同时进行了RBF神经网络隐层节点数量和位置的选择,并且由于网络的隐含层到输出层的映射是线性的,可以利用梯度下降法确定网络输出层的权值。 3.将GEP-BP及GEP-RBF去预测矿产领域中的测井曲线将两种算法分别应用于矿产预测中测井曲线样本集中,结果表明了这两种算法得到的网络模型具有较好的预测性能,并具有较好的泛化能力。 本文在第一章介绍了论文的选题及其研究意义、选题的国内外研究现状、主要的研究内容。然后在第二章中详述了人工神经网络,尤其是前馈神经网络中的BP神经网络和RBF神经网络,分别从它们的结构、学习算法等到它们存在不足进行了描述。第三章的基因表达式编程的应用研究是本文的一个主要内容之一,在这一章中,主要介绍了GEP从结构、遗传算子到算法流程各个方面。第四章是本文的另一部分主要工作,用基因表达式编程技术的全局搜索能力来分别优化BP神经网络和RBF神经网络,并相应提出了一种基于GEP的BP网络模型和另一种基于GEP的RBF神经网络模型。第五章是实验,通过试验结果,从预测精度将GEP-BP算法、GEP-RBF算法与一般的BP网络、RBF网络、GEP进行了详细的比较,显示了该混合模型的优良性能。在第六章结论中,总结了论文的主要工作和后续工作。
其他文献
本文提出了一种运行在图形处理器(GPU)上的并行扫描线矢量图形绘制方法。常用的矢量图形通过图形轮廓线的几何形状、图形的颜色等信息描述图像的方式。矢量图形的存储、表达
基于人工智能的计算机动画自动生成技术从动画的设计和制作过程出发,研究由自然语言编写的剧本到最终动画的实现过程,旨在提高动画制作的自动化程度和智能性。虚拟角色作为动
随着计算机网络技术的不断发展,各种管理系统也不断涌现。开发一个基于网络的、具有流程处理的、具备一定管理功能的成绩管理系统是目前学校的普遍需求。  本文分析了目前成
Web服务发现与组合方法己是动态Web服务领域具有挑战的研究热点。目前,服务发现缺乏支持组件的服务质量(QoS),服务组合的匹配算法亦缺乏支持动态重组和保障全局质量。本文针
求矩阵的逆、最短路径问题和求二元关系的传递闭包是科学计算领域中的三个基本问题,它们在计算机科学与工程中有着重要的实践意义。Gaussian消元法、Floyd算法和Warshall算法
多维查询语言MDX(MultiDimensional eXpression)是由微软和Hyperion联合提出的针对OLAP的查询、计算及元数据定义语言,目前已得到越来越多的业界支持,成为OLAP(Online Analys
随着空间数据库的快速增长和广泛使用,如何从空间数据中自动地发现空间知识变得越来越重要。空间co-lOCation模式代表了一组空间对象,其空间实例在地理空间中频繁关联。当前挖
随着互联网的发展,移动终端的普及,海量数据正在以指数级速度爆炸式增长。随着数据不断积累以及计算能力不断提高,以深度学习手段为代表的数据驱动式机器学习方法逐渐成为了学术
随着中国网络化和信息化建设的不断深入,由此所带来的信息安全问题已经引起社会的广泛关注。在网络环境下,要为正确的用户提供信息服务,就必须对用户的身份进行认证。目前,传统的
在众多的网络应用中,即时通信(IM)服务是应用得最广的技术之一,它诞生不久却给人们的工作和生活带来了深刻变化。当前,不同厂商的IM产品种类繁多。随着即时通信的迅速发展,不