RBF神经网络集成研究及在个人信用评估中的应用

来源 :山东师范大学 | 被引量 : 0次 | 上传用户:crazymouse
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
神经网络集成技术是神经计算技术的一个研究热点,在许多领域已经有了成熟的应用。神经网络集成学习通过训练多个神经网络并将其结果进行合成,显著地提高了学习系统的泛化能力。但是如何设计出更有效的神经网络集成实现方法,以获得更好的泛化性,并将神经网络集成应用到实际问题域中取得很好的效果,仍然是神经网络集成研究的热点问题。对神经网络集成实现方法的研究主要集中在两个方面,即如何生成集成中的成员网络以及怎样将多个神经网络的结论进行结合。理论和实践都证明,通过提高个体网络的精确性和网络间的差异性,可以提高神经网络集成的泛化性。进化规划(Evolutionary programming,简称EP)具有如下特点:(1)EP是基于拉马克的进化学说,强调父代与子代之间的行为联接;(2)进化算子中仅有突变,而没有交叉,以消除互换问题;(3)突变操作中,删除总是先于添加进行,以获得最简的网络结构;进化规划的这些特点,使得使用EP进化神经网络来获取差异性大的个体网络成为可能。文化算法是一种用于解决复杂计算的新型全局优化搜索算法。该算法模拟人类社会的演化过程。在人类社会中,文化可以被看作是信息的载体,这些信息潜在地影响所有社会成员,并且有益于指导同代及其后代解决问题的实践活动。类似地,文化算法的重要思想就在于从进化的种群中获取待解决问题的知识(即信念),并反馈这些知识用于指导搜索过程。本文在分析神经网络集成方法研究现状的基础上,以进化规划、文化算法为支撑,提出了更有效的神经网络集成方法,并将其应用到个人信用评估。主要工作如下:1、在个体网络生成方面进行研究,结合进化规划,提出了基于进化规划的神经网络集成方法(EP-ANNE)。在个体网络的初步训练中,采用k-均值聚类法确定RBF网络的中心,而网络各层之间的连接权值采用标准的线性最小二乘回归算法计算。在个体网络的进一步训练中,引入了进化规划方法,具体实施如下:神经网络的隐含层中心用实矩阵表示,适应度函数选择上我们引入了负相关学习机制,采用了级别选择策略选择个体网络参与训练,根据个体网络的训练情况,即“成功”或“失败”来确定是否进行结构变异,这样就实现了对网络拓扑结构的负相关训练。通过引入进化规划,获得具有较大差异性的异构个体网络,从而提高了神经网络集成的泛化性。2、在选择用于集成的成员网络方面进行了研究,提出了一种基于文化算法的神经网络集成方法。首先使用bagging方法独立训练若干个体神经网络,然后再选择部分个体网络参与集成。本文在做选择部分个体网络参与集成上进行了研究,引入了文化算法框架。具体为,构造了适用于个体网络选择的双层空间演化的文化算法框架,底层采用遗传算法进化群体空间,上层则通过选择优秀个体模式指导种群空间的进化。如此可以充分利用优秀个体的经验知识来指导算法的搜索过程,提高了算法的搜索速度。3、最后,将所提出的神经网络集成方法应用到个人信用评估中。通过将实验结果从不同角度进行比较,证明了方法的有效性。
其他文献
文本聚类属于无监督的机器学习方法,是自然语言处理领域的一大研究热点,已成为文本信息进行有效地组织、摘要和导航的必要环节。谱聚类是目前研究比较多、应用十分广泛的一种
随着信息技术的迅速普及,计算机网络逐渐成为人们完成相关工作的不可或缺的手段,但也带来了许多严重的安全问题。网络安全态势感知是近年网络安全领域的一个新兴研究课题,它
现代互联网应用引发了对海量数据进行并行化处理的需求,越来越多的计算任务需要在拥有成千上万个相互独立的计算节点的装置上完成。于是Hadoop MapReduce作为新一代的编程系
人机博弈是人工智能的一个重要研究领域,其中不完全信息的人机博弈能够模拟现实复杂世界中不确定环境下的决策,因此越来越受到关注。四国军棋是一种典型的不完全信息游戏,其
计算机技术的全面普及,给中小企业带来新鲜的血液,利用计算机对企业进行管理,不仅解决了传统管理方式中的管理效率低下、管理不全面,数据信息不能得到统计等问题。管理方式的
随着IT技术的飞速发展,如何有效地管理急剧增加的海量数据成为下一代互联网所面临的关键问题。解决如此棘手问题的最有效方式是应用知识网格作为下一代网络互联环境。已有知识
美国国防部的TCSES准则和ISO的CC标准都对隐通道做出了明确规定,即数据库要通过B2或EAL5级以上的安全认证,必须通过不同强度的隐通道分析。隐通道的分析可以分为三部分:定义,
本文的教育评价是根据一定的教育价值观或教育目标,运用可操作的科学手段,通过系统地搜集信息、资料,分析、整理,对教育活动、教育过程和教育结果进行价值判断,从而为不断自我完善
研究表明,文化能使种群以一定的速度进化和适应环境,而这个速度是超越单纯依靠基因遗传生物进化速度的。种群在进化过程中,个体知识的积累以及群体内部知识的交流在另外一个
签名交换的公平性是电子支付、网上交易乃至密码学领域的基本问题。在交易活动中,公平性是指诚实的主体相对其它主体不处于劣势。签名交换的公平性要求交易双方或者都获得对方