论文部分内容阅读
随着科学技术的高速发展，人们获取数据的渠道越来越多，数据维数也急剧膨胀，如何对这些海量数据进行维数约简，从中提取对人们有用的信息，成为模式识别及机器学习等领域的关注重点。本文重点研究了维数约简方法中基于谱图理论的非线性流形学习算法，详细分析了几种现有的经典算法，并对其不足之处进行了改进，进而提出了两种高效的特征提取方法。本文的主要贡献及创新如下：1)详细介绍了流形学习算法的研究背景及国内外研究现状，对现有的经典算法进行总结，分析了其优缺点。2)在局部邻域嵌入(Local Neighborhood Embedding，LNE)算法中，传统邻域样本的选取方法会导致伪样本的产生。另外，LNE算法是一种非线性流形学习方法，存在样本外问题，同时它还忽略了样本的类别信息，所提取的特征信息存在冗余。针对这些问题，提出了不相关判别局部邻域嵌入(Uncorrelated Discriminant LocalNeighborhood Embedding，UDLNE)算法，该算法首先将LNE算法线性化，然后在目标函数中融合了样本的类别信息，有效地分离了同类样本和异类样本，并且通过添加不相关限制，极大减少了特征信息的冗余。该方法是一种线性的监督算法，能够有效地提取样本特征，具有较高的识别率。3)正切空间判别分析(Tangent Space Discriminant Analysis，TSDA)算法是一种监督的流形学习算法，该算法在保持样本的类内局部几何结构的同时最大化类间差异，极大地增强了算法的判别性。然而，TSDA算法只是一种线性方法，不能很好地发掘出数据的非线性特征，同时由于小样本问题的存在和距离度量结构的破坏，进一步削弱了算法的性能。针对这些问题，提出了核正交判别局部正切空间对齐(KernelOrthogonal Discriminant Local Tangent Space Alignment，KODLTSA)算法。该方法能够很好地发掘出数据集潜在的非线性特征，有效地避免了小样本问题，并且通过添加正交限制，保持了数据间的距离度量结构，表现出了较好的分类效果。