点集匹配是计算机视觉与模式识别领域一个基础而关键的问题,其目标在于寻找给定两组点集之间的点点对应关系。点集匹配技术在立体视觉匹配、目标识别与跟踪、医学图像分析、遥感图像处理等方面都有广泛应用,是目前各领域关注和研究的热点。点集匹配本质上是一个NPC复杂组合优化问题,计算量非常大,且由于噪声、离群点和非刚性形变的存在,常造成点集匹配结果的性能大幅下降,严重制约了其工程使用。因此,研究普适高效、鲁棒性更强的点集匹配算法具有重要的理论意义和实用价值。为了有效处理噪声、离群点和非刚性形变等对点集匹配算法性能的影响,本文着手于研究更为普适高效鲁棒的点集匹配算法。为此,本文基于非参数模型提出了一系列新算法,并将其应用于图像特征点匹配、非刚性点集配准以及非刚性图像配准等问题,且取得了良好的实验效果。论文的主要内容如下：首先,针对图像特征点匹配问题,在正则化技术和表示定理的框架下,深入研究了向量场插值问题,提出了一种鲁棒向量场插值算法称为向量场一致性VFC,以处理向量场样本中出现离群点的情况。为提高一般向量场插值算法的计算效率,提出了一种普适的基于稀疏近似的快速算法,其将一般核方法时间和空间复杂度分别从O(N3)和O(N2)均降到O(N)；在统计学习理论背景下严格推导和证明了快速算法产生的次优解与原始算法最优解的近似界。其次,将VFC应用于图像特征点匹配问题,并从理论上深入探讨VFC对图像空间变换关系采用的非参数模型在处理实际问题中的适用性。将VFC推广到参数模型和分层运动模型,以弥补其在某些特殊情况下的不足。通过大量定性与定量的实验以及与处于领先水平点集匹配算法的对比,验证了VFC作为一种普适算法在解决各种点集匹配问题中的优势,包括满足单应的图像对、宽基线图像对、非刚性形变图像对、误匹配比率极高的图像对、以及三维图像对等。再次,将鲁棒L2E估计子引入到点集匹配问题中,提出了一种鲁棒点集配准算法RPM-L2E,并将其应用于非刚性稀疏点集匹配问题例如非刚性点集配准和图像特征点匹配,以及非刚性稠密点集匹配问题例如非刚性图像配准。为测试算法对噪声、遮挡、离群点、旋转、和尺度变换的鲁棒性,在大量公共数据集上与处于领先水平的算法作定性和定量的对比,实验结果表明RPM-L2E能得到更精确的点集或图像配准结果。然后,针对计算机图形学与图像处理领域的传统课题—非刚性图像变形问题,提出了一种基于移动正则化最小二乘的非刚性图像变形算法MRLS。该算法可生成生动直观的变形效果,且计算效率极高可满足实时性要求,从而不仅为图像配准算法定量评估提供必要的实验数据,而且在动画制作、形体塑造、医学图像分析等其它应用中也具有潜在价值。最后,针对非刚性点集配准问题提出了一种基于保持点集全局与局部结构特征的非刚性点集配准算法PR-GLS,其采用高斯混合模型进行建模,结合软指派策略将点集对应关系和变换函数放在统一框架下进行估计,从而改进配准效果。相比于RPM-L2E和其它处于领先水平的点集配准算法,PR-GLS在数据退化程度较为严重时能大大提升配准精度。