维数约减是处理多维数据的一个重要步骤,是机器学习中的一个重要研究课题,尤其是非线性维数约减技术已经成为机器学习中的一个研究热点。本文针对非线性维数约减算法中的若干关键问题进行了研究。首先,分析和比较了基于应力函数的评价模型、基于剩余方差的评价模型和基于DY-DX表示法的评价模型,提出了一种基于距离比例方差的评价模型。实验结果表明,利用该模型不但可以评判同一算法在不同参数下的映射效果,而且可以比较不同算法之间的嵌入质量。同时还讨论了如何利用应力函数、剩余方差和距离比例方差来确定邻域参数和低维空间的维数。其次,研究了增量式非线性维数约减算法问题,通过改进增量式ISOMAP算法得到了基于距离保持的增量式算法,提出了基于拓朴保持的增量式算法和基于k近邻投影的增量式算法,这三种算法都可以较为中肯地将训练集之外的样本映射到低维空间中。理论分析和实验结果表明,基于距离保持的增量式算法具有较好的映射质量,基于拓朴保持的增量式算法具有较高的效率,但它们都只是对ISOMAP算法的扩展。而基于k近邻投影的增量式算法同时具有较好的映射质量和较高的计算效率,而且可以作为任一种非线性维数约减算法的扩展。对于含噪声的数据,由于新样本的低维嵌入与训练集的低维坐标无关,基于拓朴保持的增量式算法对噪声不太敏感。而其他两种算法只要在映射训练样本时较好地处理了噪声,就可以忽略噪声的影响。最后,本文讨论了非线性维数约减算法在分类和聚类中的应用。在指纹分类和文本分类中的实验结果表明,通过结合非线性维数约减算法和分类技术,在保证分类精度的前提下,极大地提高了分类算法的执行效率,降低了分类算法的空间需求。对聚类算法的实验结果表明,基于非线性维数约减的聚类算法可以发现任意形状的类,聚类质量明显优于K-均值算法的聚类结果。