随着医学成像设备和计算机技术的高速发展,计算机辅助仿真在医学图像领域发挥着越来越重要的作用。非刚体点集配准是计算机辅助仿真的重要底层技术之一。它不仅适用于二维图像,更能在重建的三维空间上直接运用,便利于医学观察、诊断、治疗和分析。同时,利用非刚体点集配准技术不但可以指导外科手术计划的制定和手术效果的评估,还能帮助发现和研究特殊或病变器官。本文在研究和分析了颅颌面外科手术评估和心脏DTI纤维图谱构建的现有技术基础上,着重研究了基于概率的非刚体点集配准技术,提出了多个具有广泛适用性的非刚体点集配准算法,并给出它们在医学图像中的应用。本文的主要工作和创新点如下:（1）提出了参考集选择无关的仿射点集配准算法。该方法解决了尺度差异大时,配准结果受初始参考集选择影响的问题。交替的参考集和软对应关系避免了优化过程过早地陷入局部最优,有助于获得最优的仿射配准结果。（2）提出了基于旋转不变形状上下文特征的一致点移动算法。该方法通过构造旋转不变形状上下文特征,将原一致点移动算法的应用范围扩展到大旋转变形领域。同时,自适应的先验概率和离群率使得该算法能够主动适应点集的变化,根据点集的距离和形状特征,确定最优的对应关系和非刚体变形。（3）建立了稀疏非刚体点集配准框架,并给出了两个具体算法,基于薄板样条的稀疏非刚体点集配准算法（SNR-TPS）和稀疏一致性点集配准算法（SNR-CPD）。该框架通过将?p（p∈[0,1]）范数表示的稀疏配准残差引入非刚体点集配准,解决了?2范数配准残差对离群点高度敏感的问题。确定性退火和交替方向乘子算法的混合优化方法帮助该框架下的算法能够获得最好的局部最优解。以上三种方法都可用于颅颌面外科手术效果的评估,分别解决了点集配准的不同问题。这三种方法也可以组合使用,从上到下,从粗到细,为外科手术的定量评估提供了可能。（4）为构建心脏扩散张量纤维图谱,提出了基于心脏纤维的联合聚类配准算法。该算法利用心脏纤维信息,保证了心脏聚类结果的纤维一致性和形状不变性。交替的聚类和配准算法使得该算法不但可以减少运算的数据量,而且可以获得多个点集间的一一对应关系。心脏扩散张量纤维图谱的建立是进一步研究心脏纤维病变及特定人心脏纤维特点的基础。