手术机器人辅助的微创手术凭借其创口小、疼痛轻、住院时间短等众多优点,在临床上取得了广泛的应用。而培练系统对于微创手术外科医生的培养更是不可或缺。由于传统的培训过程以动物或者尸体为操作对象引来了训练成本高昂、伦理方面的问题,而目前盛行的虚拟现实培训系统尽管解决了上述问题,但给受训医生的沉浸感不足。因此,本文创新性地搭建了基于混合现实的培训系统,以进一步提高培训系统的沉浸感。为获取虚拟的手术操作对象,对软组织的三维重建技术进行了研究。首先,对术前获取的患者CT图像先后进行了阈值分割、均衡化、中值滤波的预处理,增强了图像的对比度并滤除了图像中的噪声。其次,对预处理完的图像分别采用了基于主动轮廓模型的方法和区域生长法来分割出所需的软组织结构,并得出了区域生长法更适用于多轮廓复杂图像的图像分割的结论。最后,采用了移动立方体三维重建算法复原了患者的软组织三维模型。虚实碰撞检测是实现混合现实虚实交互的关键,本文设计了一种虚实碰撞检测算法以检测现实的手术器械与虚拟的软组织是否发生接触。该算法分两步进行,首先,创建一个虚拟的手术器械并将它与现实的手术器械进行空间上的配准,其次,用它替代现实的手术器械并在虚拟环境下完成虚实碰撞检测。由于虚实空间配准需求解主手的运动学模型,鉴于主手是串并联机构解耦的构型形式,其位置求解和姿态求解是分开进行的,位置求解采用闭环矢量方程的方法,而姿态求解采用的是D-H参数法。在虚拟环境下进行碰撞检测过程中,设计了基于八叉树的碰撞检测算法以适应软组织变形这一特点,在保证碰撞检测精度的条件下极大地提高了碰撞检测的速度。最后,逐步完善并集成了整个混合现实的微创手术机器人培训系统并进行了相关的实验验证。首先,为实现对软组织弹性方程的快速求解,建立了神经网络模型来预测软组织的形变位移,保证了软组织的变形精确性以及实时性。其次,为实现主手控制程序与虚拟环境端之间的信息共享,采用了Socket通信方式建立了这两者间的数据传输通道。然后,采用了三维注册技术让虚拟环境下的软组织无缝地融合在现实环境中。最终,集成了混合现实系统并进行了混合现实实验。