随着三维仿真技术的发展,虚拟手术逐渐出现在医学领域中。正畸仿真系统是其典型应用,被广泛的应用于隐形牙套的制作。但该系统目前仍有许多不足,如牙齿分割精度不高、存在锯齿,分割速度慢,手工干预较多;牙龈变形仿真度不高、变形速度慢等。因此,对虚拟牙齿矫正系统各个功能模块的研究具有重要意义。本课题主要对虚拟牙齿矫正系统中如何进行更精确快速的模型分割以及如何使牙龈软组织的变形仿真更符合生理医学特性两个问题进行了研究,主要研究内容和创新点如下:（1）为简化牙颌三维模型牙齿分割中点选种子点的操作,提出一种基于颌平面二维投影的种子点的自动拾取方法。首先,截取三维牙颌的二维投影颌平面,根据牙齿的形态类别进行标签化处理,建立二维牙齿分割种子点数据集。然后,构建基于YOLO-v4的牙齿种子点预测网络,实现牙齿位置的预测和类别的识别。最后,根据统计最优位置计算二维的种子点,并通过逆投影变换方法映射回三维空间,实现三维种子点的最终拾取。结合本课题中分割线探测的成果实现三维牙颌模型的自动分割。实验结果表明,在自建数据集上的牙齿类别识别平均精度均值为93.882%,平均检测时间为0.1884s,具有较高的准确率和实时性,大大减轻了牙颌模型分割中人机交互的负担。（2）精确的将牙齿从牙颌模型中分割出来是虚拟牙齿矫正系统的一个重要的预处理问题。现有方法在进行牙颌模型分割时,多会对所有的面片直接进行计算处理。针对该问题,提出一种基于目标区域约束的分割线探测方法,可以将探测范围锁定在实际分割线的周围。该方法根据种子点的位置自动构建切割平面及切割线;通过寻找切割线上负曲率最大的位置来锁定探测范围;最后根据曲率及角度信息进行分割线的探测。与本课题种子点自动拾取方法相结合,实现了牙颌模型的自动分割。实验结果表明,该方法对各类畸形牙模型的适应性更好,可在保证牙齿分割精度的同时,有效提高分割效率。（3）为解决牙齿矫正仿真中牙龈变形边界褶皱问题,在传统质点-弹簧模型的基础上设计了一种牙龈软组织包裹变形的仿真方法。首先,选取牙齿硬组织和牙龈软组织之间的过渡边界点作为变形主动点,在矫正操作结束后通过包裹到牙齿表面的方式确定主动点的变形位置。然后,为解决主动点位置确定时附着点缺失的问题,基于牙齿轮廓曲线拟合的方式补一段牙根。最后,采用表面曲率值之和进行实验度量对比。实验结果表明,本文方法能够有效减轻矫正幅度较大时的牙龈变形边界褶皱问题,提高了虚拟牙齿矫正系统的真实性。