作为计算机视觉领域中的一个重要方向,点集配准广泛应用于各种场合,如缺陷检测,医学图像分析等。点集配准技术是找到模板集所经历的最佳空间变换,以此来对齐目标点集与模板点集。由于一些不利因素,如未知的非刚性空间变换、噪声和离群点等,使得点集配准成为一个具有挑战性的问题。针对这些问题,本文开展了以下两个方面的工作。(1)提出了一种基于局部偏差约束和平滑约束的鲁棒点集配准方法。在现有算法中,部分点的估计结果可能与它们的真实值有很大的偏差,这是因为在它们的模型中只考虑了整体的配准误差。为了解决这一问题,本文将变换后的模板点集与目标点集之间的正则误差偏差,设计为局部偏差约束项。此外,为了将空间变换的过程变得平滑,将再生核希尔伯特空间的平方范数,作为高斯混合模型的正则化项。最后,本文用最小生成树诱导三角剖分算法得到的二值化表示来计算对应矩阵,与概率矩阵相比,该方法得到的对应矩阵具有更好的估计性能。通过对几个广泛使用的数据集进行实验,验证了所提出方法的有效性。(2)针对高斯混合模型的每个分量,提出了一种有效的隶属概率表示,此方法能更好的获取匹配到的点与未匹配点之间的概率差异,使得高斯混合模型的概率表示更为精确。为了充分考虑点的结构信息,本文利用形状上下文和快速点特征直方图两种特征描述符,构造了一种新的高斯混合模型隶属概率表示方法。此外,对于模型点集中的每个点,还采用了一种动态规划算法,用于从目标点集中寻找最优候选点。在几个广泛使用的二维和三维数据上的实验结果表明,该方法对形变、离群点、遮挡和旋转具有更强的鲁棒性。