孤立点挖掘及其内涵知识发现的研究与应用

来源 :广西师范大学 | 被引量 : 0次 | 上传用户:chengkemin
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
孤立点挖掘又称孤立点分析、异常检测、例外挖掘、小事件检测、挖掘极小类、偏差检测。孤立点可能是“脏数据”,也可能是与实际对应的有意义的事件。从知识发现的角度看,在某些应用里,那些很少发生的事件往往比经常发生的事件更有趣、也更有研究价值。因此,异常数据的检测和分析是一项重要且有意义的研究工作。本文的主要工作可以概括为以下五个方面: (1)从孤立点挖掘的现实意义、算法、应用领域、挖掘工具、算法的评价等各个方面对孤立点挖掘问题进行了综述。(2)针对基于距离的方法需要设置阈值的不足,本文提出了一个新的孤立点定义,通过对象与数据集中所有其它对象的距离之和来判别异常,从而有效解决了算法需要设置最近邻参数p 或者k 的问题。为提高算法的效率,设计了基于抽样的近似检测算法。真实数据集上的实验表明该定义与DB(p,d)孤立点定义有相同的结果,同时给出了数据对象在数据集中的孤立程度,降低了阈值设置对用户的要求。(3)对分类、多维数据中的局部异常检测问题进行了研究,基于属性值的频数差异性理论给出了一个新的异常定义,并提出了判断异常显著性的异常存在判别准则,实验结果表明,该判别准则可有效去除大量异常程度并不显著的对象。文章从检测结果的有趣性、与同类算法的比较、对提高分类准确率的贡献和检测小类的能力四个方面对算法的有效性进行了评价。(4)实现了一个异常检测实验平台SOD(Smart Outlier Detection),其中集成了所提出或改进的算法,为异常检测提供了一个分析工具。所提供的数据接口能够从多个外部数据源获取数据,增强了平台的实用性,现已集成到某高校的教务管理系统中进行测试。(5)结合教务管理系统的特点,探讨了在教务管理系统中使用异常检测的必要性,并就实际需求给出了应用实例。 本文的研究目的是构建一个从真实数据中检测异常数据及发现其内涵知识的实验平台,主要包括有机结合的五个方面:消除阈值设置的基于距离和的近似算法;针对分类数据、高维数据的异常检测算法;为有效发现异常中的内涵知识的例外规则挖掘算法;针对子序列长度相等的静态时间序列数据中的异常挖掘算法;集成了以上几种算法的实验平台。异常检测的最终目的在于应用,本文对异常挖掘在教务管理系统中的应用进行了有益的探索。
其他文献
工作流技术通过调用有关的信息和人员协调业务过程中的各个环节,使之按照一定的顺序依次进行,从而实现业务过程的自动化。在电力工业中,电力工程管理问题是一个复杂、综合、较长时期的系统工程,它需要解决电力企业很多“职能内容”与“业务流程”的协调问题。本文将工作流技术应用到电力工程项目管理系统中,设计实现了适合电力工程管理中业务流程的工作流管理子系统,解决了业务流程多样化和不确定的问题。该系统定义了四种过程
工作流技术是实现企业业务过程自动化的核心,有助于提高企业的生产率与竞争力。狭义的说,工作流的柔性是指工作流系统执行松散、部分定义的工作流程的能力,工作流定义往往在运行
心电图一直是人们了解自身心脏特征的主要途径,是疾病诊断的重要依据。由于动态心电图的产生,导致手工分析心电图所有数据已经不可能,为了提高诊断效率,实时监测病人,心电信号自动
在企业的信息化建设过程中,随着企业规模的扩大和计算机技术的发展,不同时期构建的业务系统可能基于不同操作系统和数据库平台,结果造成相互间数据交流效果较差,形成了相互隔
随着计算机技术的发展,嵌入式系统己成为计算机领域的一个重要组成部分,并成为近年来新兴的研究热点。而采用ARM微处理器作为硬件基础和μC/OS-Ⅱ作为嵌入式操作系统被广泛的应
随着计算机处理能力日益增强,网络技术、多媒体技术的不断发展,随之而来的是大量的多媒体信息不断地产生。视频信息在多媒体信息中占最大比例,信息量最多,应用前景最广。由于视频
随着Internet的普及与发展,网络安全所面临的威胁也越来越严重。在对Internet的恶意攻击中,拒绝服务(DenialofService,DoS)攻击占了相当大的比例,并且还在不断增长中。拒绝服务攻
统计学习理论是一种专门研究小样本情况下机器学习规律的理论,支持向量机方法是在该理论基础上发展起来的通用学习方法,它具有全局优化、适应性强、理论完备、泛化性能好等优
网络时代的出现和发展使越来越多的人融入到信息社会中来,各种信息、知识的获取以及娱乐节目的收看等媒体信息服务被越来越多的人们所希望,而对应于这些需求,出现了各种各样
随着计算机网络技术的不断发展和普及,数据量正在以一个爆炸式的趋势增长,数据的复杂度也更加多样化,而要从海量的数据中获取有价值的信息也变的非常困难,这给数据挖掘技术带来一