近年来,随着虚拟现实、分布交互仿真等技术的兴起,碰撞检测问题开始成为研究的热点。快速精确的碰撞检测对于提高虚拟环境的真实性、增强虚拟环境的沉浸感有着至关重要的作用,而虚拟环境自身的复杂性和实时性又对碰撞检测提出了更高的要求。本文以虚拟手术仿真为应用背景,对碰撞检测的算法进行了深入的研究,主要包括以下几个方面的内容:首先对虚拟现实和碰撞检测的发展与现状进行了阐述,并对碰撞检测常用的几种层次包围盒方法:Sphere、AABB、OBB和K-DOPs进行了系统研究,对这几种方法的优缺点进行了分析比较。其次,我们基于K-DOPs层次包围盒树易于更新,适用于软体对象;OBB层次包围盒树更新速度慢,但包围盒紧密性好,适用于刚体对象。结合K-DOPs与OBB包围盒各自的优点,提出了自己的算法——混合包围盒法:对刚体对象采用OBB包围盒,对软体对象采用K-DOPs包围盒。该方法适用于虚拟手术中刚体对象和软体对象均存在的情况,本文对混合包围盒法中存在的一系列问题进行了详细地说明论证,这些问题包括包围盒树的构造、OBB与K-DOPs包围盒间的相交测试方法、包围盒树的更新、算法的优化等。最后,将所提出的方法应用到虚拟手术试验中,实验结果和具体应用表明,基于OBB与K-DOPs的混合包围盒碰撞检测算法能很好的解决虚拟手术中刚体对象和软体对象间的碰撞检测问题。本文的研究成果对虚拟手术环境中的碰撞检测有一定的理论价值和实际意义。