论文部分内容阅读
数据挖掘又称数据库中知识发现,是从大量数据中用非平凡的方法发现有用的知识。分类是数据挖掘中的一项非常重要的任务,在商业、金融、电讯、DNA分析、科学研究等诸多领域具有广泛的应用。统计学、机器学习、神经网络等领域的研究者提出了很多分类方法,大部分算法是内存驻留算法,适用于小型数据集。随着数据集的数据量和维数的增加,建立高效的、适用于大型数据集的分类算法已成为数据挖掘的一项挑战性任务。 基于显露模式(Emerging Pattern,EP)的分类方法是针对大型数据集的分类提出的,EP是G.Dong和J.Li提出的一种新的知识模式,这些模式能够捕获目标类和非目标类上多组属性之间的差异,具有很好的分类性能。第一个基于EP的分类算法是G.Dong等提出的CAEP算法,此后相继提出了JEP-Classifier、BCEP和DeEPs等一系列基于EP的分类算法。相关研究表明,基于EP的分类算法的平均分类准确率优于决策树等传统算法,显示了EP在分类方面的优越性。 另一方面,提升(Boosting)与装袋(Bagging)以及其他基于委员会的方法能够显著改善某些算法的分类准确率。基于委员会的方法试图通过合并多个弱分类器建立一个有效的委员会来构造一个更加有效的分类器。以提升和装袋为代表的组合分类方法成为提高某些算法分类准确率的有效方法。但是,现有的组合分类方法研究主要使用决策树、神经网络以及贝叶斯方法作为基分类器,其他类型的分类算法还有待进一步研究。 本文首次提出了建立基于EP的多分类器表决分类算法的思想。由于采用什么样的算法建立基分类器成为实现上述思想需要解决的首要问题,因此我们又提出了一个新的基于EP的分类算法作为基分类器的学习算法,即:基于基本显露模式的分类算法(Classification by Essential Emerging Patterns,CEEP)。以CEEP算法为基分类器学习算法,我们进一步提出采用自助方式建立多个并列的基分类器,通过投票表决的方式合并多个基分类器的组织策略,最终实现了本文提出的算法思想,得到一个融合了基于EP的分类算法和组合分类方法两者优势的新型的分类算法,即:基于EP的多分类器表决分类算法(Classification by Voting Classifiers based on Essential Emerging Patterns,CVCEEP)。 CEEP算法采用了一种基于模式树(P-树)的更快速有效算法挖掘eEP,改基于EP的多分类器表决分类算法进了己有的同时使用支持度和增长率EP的评分标准,提出以增长率为标准的评分策略,并且解决了参数的自适应选择等问题,实验表明CEEP算法具有很好的分类性能。因此,CEEP算法既是CVCEEP算法的一个重要组成部分,也是一个独立而完善的基于EP的分类算法。 为了测试算法的分类性能,我们使用UCI机器学习库中的12个数据集作为实验数据集。并且将实验结果与NB、CS.O、CAEP、LB以及BCEP比较, CEEP算法显示了很好的分类性能,而且CVCEEP算法的分类准确率和CEEP相比有显著提高。实验结果表明,本文算法的分类准确率可以与已知最好的分类算法相媲美。