信息时代的快速发展使得数据的采集、传输变得更加容易,数据规模也呈现指数式增长的趋势。这样庞大的数据中蕴藏着巨大的价值,所以对大数据的分析和利用便显得尤为重要。对数据进行分类是机器学习领域中的一个重要任务,比如垃圾邮件识别、图像识别、人脸识别、语音识别等。决策树(Decision Tree,DT)凭借其优秀的数据分析效率和易理解的输出结果在分类问题中得到了广泛的应用,然而因为决策树采用递归方法构建,在数据规模较大的情况下,训练效率较低,并且过度分类的决策树可能会产生过拟合现象。因此研究高效的决策树构建算法仍然具有重要的应用价值。本文针对上述问题开展研究,具体内容包括:(1)提出模型决策树方法。针对决策树递归构建造成算法时间变长、效率变低的问题,本文提出一种模型决策树算法(Model Decision Tree,MDT)。MDT算法在训练数据集上采用基尼指数生成一棵不完全决策树,然后用一个简单分类模型对其中的非纯伪叶结点(非叶结点且结点包含的样本不属于同一类)进行分类,进而生成最终的决策树。这样产生的模型决策树与原始的决策树算法相比,能够在算法精度不损失或者损失较小的情况下,提高决策树的训练效率。(2)提出模型决策森林方法。模型决策树虽然能够提高决策树算法的训练效率,但是随着非纯伪叶结点规模的增大,模型决策树的精度也在下降。因此针对模型决策树算法精度较低的问题,提出了一种模型决策森林算法(Model Decision Forest,MDF)。MDF算法将模型决策树作为基分类器,利用随机森林的思想,生成多棵模型决策树。算法首先通过旋转矩阵得到不用的样本子集,然后在这些样本子集上训练出多棵不同的模型决策树,最后将这些树通过投票的方式进行集成。在标准数据集上的实验结果表明,本文提出的模型决策森林在分类精度上明显优于模型决策树算法。本文针对经典的决策树算法在构建时采用递归方式造成训练时间长、训练效率较低的问题开展研究,提出了两种新的决策树模型,不仅可以提高构建树的效率,而且具备了一定的抗过拟合能力。本文的研究成果丰富了决策树算法的研究,具有较好的应用潜力。