现在许多机器学习学习问题中,特征的维度通常都非常高,并且数据类别标签的获取非常困难或昂贵。在一个高维度的小样本数据集上进行学习通常都会导致很严重的过拟合。这个问题有两种流行的解决方案。一种是使用主动学习和半监督学习来最大化带类别标签的数据的价值并挖掘无类别标签数据的潜在价值。另一种方案则是流形学习：通过直接在数据的本征维度上进行几何分析来避免维度过高的问题。这里的关键在于：对于许多实际生活中的高维数据,可以很自然地假设数据点是分布在一个低维流形上的。流形的本征维度通常比外围欧氏空间的维度低得多,因此直接分析流形的本质几何性质,可以有效地避免维度灾难的问题。本文我们将提出一个通用的框架来将两种方案进行统一。我们将在机器学习的过程中显式地考虑到数据的流形结构,在此基础上,通过一个方差最小化的准则来求得最稳定的解。我们的工作基于拉普拉斯正则化的半监督学习算法,这是一个基于流形假设的半监督学习算法。通过分析算法及其解的统计特性,我们提出一个方差最小化的准则,来最大化学习的稳定性。学习问题的稳定性和算法的泛化能力是密切相关,这在学习理论中已经是众所周知的事实。基于这个准则,我们将实现具体的主动学习和特征选择算法。特征选择算法能够在保持原始特征维度可解释性的前提下有效地降低数据的维度。而主动学习算法则可以最大化类别标签的价值。两个算法都基于我们的方差最小化准则,因此都具有很好的抗过拟合能力。虽然他们的目标函数都是NP难问题,但是我们还提出了高效的近似算法可以对目标函数进行求解。通过在实际数据集上进行大量的试验,证明了我们算法相比于基准算法和主流算法得到了很大的性能提升。