论文部分内容阅读
数据分类是一种重要的数据挖掘技术,常用的数据分类方法有决策树归纳分类、贝叶斯分类、神经网络分类和K最邻近分类等,采用的理论及算法有决策树(Decision Tree)、粗糙集(Rough set)、人工神经网络(Artificial Neural Network)、遗传算法(Genetic Algorithms)等。
ID3算法以信息熵作为属性选择的标准,是经典的决策树算法,但该算法没有考虑噪声数据的影响,使得算法的抗噪声能力比较差。针对上述的不足,本文分别结合粗糙集理论、人工神经网络对ID3算法作了改进研究,主要内容包括:
首先,对决策树、可变精度粗糙集理论进行了系统的研究,分析了变精度粗糙集中分类质量与分类正确率的关系。考虑到可变精度粗糙集理论在处理噪声数据方面具有较强的抑制能力,以及实际应用中常关心的分类质量问题,提出了基于分类质量的变精度ID3算法。
与此同时,结合粗糙集理论中属性约简算法可以在不影响分类能力的前提下对数据集进行简化的特性,本文还提出了变精度的属性约简算法。
其次,考虑到神经网络具有鲁棒性、自适应性和高度容错性等特点,并且在利用粗糙集理论知识构建决策树算法的属性选择标准启发下,提出了基于样条权函数神经网络的决策树生成算法。
随后,分别对基于分类质量的变精度ID3算法及基于样条权函数神经网络的决策树算法构建了分类器,用UCI数据库中的多个数据集作为测试数据进行了实验,实验结果表明改进后的决策树生成算法在抑制噪声方面要优于改进前的ID3算法,其实用性更好。
最后,本文提出将决策树分类思想应用到城市道路建设中去,为城市现有道路的养护及新道路的规划起到辅助参考作用。