论文部分内容阅读
预测理论作为一门综合性的学科,广泛应用于经济、社会等领域,取得了巨大的发展。所谓预测问题,实质上就是以过去的已知状况作为输入,在预测算法作用下,取得未来结果输出的过程。为了适应预测的时效要求,预测理论正逐步向智能化方面发展。
随着计算机的发展,计算机技术在各个领域中得到广泛的应用,催生了许多新兴的学科,生命科学和工程科学的相互交叉和相互促进成为新兴学科的一个典型的代表,也是最近学术研究的一个研究热点。现代科学理论研究与实践中存在大量与组合优化、数据分析等相关问题,使用常规方法解决这些问题,有时候显得无能为力。正因为这样,人们模仿生物的遗传和进化机制,模仿人脑的神经元反应原理得到了智能计算的两大学科——进化计算和人工神经网络。这两大学科在现实生活中的应用越来越广泛。由于具有强大的搜索能力,因此进化计算可以解决很多常规方法无法解决的问题。
本文首先研究了前馈型神经网络,尤其重点研究了BP神经网络和径向基函数神经网络。BP(Back Propagation)神经网络,即多层前馈式误差反向传播的神经网络,是人工神经网络中最具有代表性和广泛应用的一种,其主要优点是:1)只要有足够的隐层和隐节点,BP网络可以逼近任意非线性映射关系;2)BP网络的学习算法属于全局逼近的方法,因而它具有较好的泛化能力;3)BP网络有较好的容错性。而缺点是收敛速度慢,容易陷入局部极小点。
径向基函数(Radial Basis Function,RBF)神经网络是一种具有单隐层的三层前馈神经网络,其主要优点是:1)网络结构和学习算法与BP网络有着很大的差别,在一定程度上克服了BP网络的缺点,例如,比BP神经网络具有更快的学习速率。2)RBF网络是一种局部逼近网络,它能以任意精度逼近任意连续函数而且还不存在局部极小值问题,因而具有优秀的全局逼近能力。而缺点是:RBF网络的设计问题就是关于网络隐层节点数和隐层节点RBF函数中心、宽度和隐层到输出层的权值的性能指标的最小化问题。尽管性能指标对函数中心和连接权值是连续可导的,但对于隐层节点数却是非连续非线性的。这对于需要目标函数的导数信息的传统化方法是很困难的。
其次本文简要介绍由C.Ferreira发明的一种新的遗传算法一基因表达式编程(Gene Expression Programming,GEP),它结合了基本遗传算法(Genetic Algorithm,GA)和遗传规划(Genetic Programming,GP)的优点,克服了它们的缺点,GEP采用特殊的编码方式和翻译系统,将GEP的基因型和表现型巧妙的结合在一起,在解决符号回归、序列推理、时间序列等问题上,它具有比遗传规划更优的性能。
最后本文在前人工作的基础上,利用GEP分别对BP网络和RBF神经网络进行优化,并分别提出了一种基于GEP的BP神经网络和一种基于GEP的RBF神经网络,通过测井数据验证,结果显示该混合模型比单独使用BP神经网络,RBF神经网络模型具有更高的预测精度,但时间复杂相对而言比较高。
本文工作主要包括:
1.提出了基于GEP的BP神经网络(GEP-BP)的预测算法在参考了目前将遗传算法与神经网络的结合方法的基础上,利用GEP优化三层BP神经网络的连接权和网络结构。由于GEP在进化过程中能以较大概率搜索到全局最优解存在的区域,在GEP搜索到最优解附近时,却无法精确地确定最优解的位置:为此本文进一步采用从进化后的结果中,再次利用BP算法对进化后的网络权值进行精调。这为我们利用神经网络方法进行预测建模研究,提供了新的思路。
2.提出了基于GEP的RBF神经网络(GEP-RBF)的预测算法GEP同时进行了RBF神经网络隐层节点数量和位置的选择,并且由于网络的隐含层到输出层的映射是线性的,可以利用梯度下降法确定网络输出层的权值。
3.将GEP-BP及GEP-RBF去预测矿产领域中的测井曲线将两种算法分别应用于矿产预测中测井曲线样本集中,结果表明了这两种算法得到的网络模型具有较好的预测性能,并具有较好的泛化能力。
本文在第一章介绍了论文的选题及其研究意义、选题的国内外研究现状、主要的研究内容。然后在第二章中详述了人工神经网络,尤其是前馈神经网络中的BP神经网络和RBF神经网络,分别从它们的结构、学习算法等到它们存在不足进行了描述。第三章的基因表达式编程的应用研究是本文的一个主要内容之一,在这一章中,主要介绍了GEP从结构、遗传算子到算法流程各个方面。第四章是本文的另一部分主要工作,用基因表达式编程技术的全局搜索能力来分别优化BP神经网络和RBF神经网络,并相应提出了一种基于GEP的BP网络模型和另一种基于GEP的RBF神经网络模型。第五章是实验,通过试验结果,从预测精度将GEP-BP算法、GEP-RBF算法与一般的BP网络、RBF网络、GEP进行了详细的比较,显示了该混合模型的优良性能。在第六章结论中,总结了论文的主要工作和后续工作。