岩体内部含有大量节理、裂隙等不连续面,这些节理面的扩展、贯通以及相互作用对岩体稳定性具有重要影响。这些节理裂隙本质上是三维的,极少有情况可以简化为平面问题,且二维断裂模型无法描述III型断裂。同时岩石是一种非均质、非透明材料,其内嵌裂隙扩展问题难以通过试验方法研究,因此很有必要采用三维数值模拟手段对这类问题进行研究。应用传统有限单元法模拟三维断裂问题时,存在诸多困难,例如:裂尖应力强度因子计算及网格处理问题等。为避开这些难题,本文采用虚内键理论及单元劈裂法对该问题进行研究。首先,本文在改进势函数基础上建立了宏观AVIB(Augment virtual internal bond)本构模型。原AVIB采用Xu-Needleman势函数对虚内键进行描述,但原Xu-Needleman势函数存在一定的局限性,即:当切向位移无限大时,法向力并不为零。为此,本文对原AVIB模型进行了两点改进:一是引入改进的Xu-Needleman粘结法则来描述虚内键,建立相应的宏观本构方程,并推导了微观物理参量与宏观力学参数的关系,使AVIB模型完善化;二是采用非耦合的微观粘结法则来描述虚内键,并推导了相应的微观与宏观力学参数之间的关系和宏观本构方程,使AVIB模型更加简化,提高了计算效率。三维单元劈裂法(3D Element partition method,3D-EPM)是利用四面体单元的几何性质构造的一种特殊的四节点节理单元。利用该方法模拟内嵌裂纹时,无需考虑节理岩体的几何完整性,直接对整个试件进行网格划分,可以避免单独设置节理单元和网格重构问题,当裂纹数目较多时其优势尤为突出。结合改进的AVIB模型和3D-EPM,首先探索了压应力下3条内嵌裂纹的扩展和相互作用规律。发现当3条裂纹竖向共线排列时,单个裂纹同时以“包裹状”独立扩展;当3条裂纹非共线排列时,呈“翼裂纹状”分布的两条裂纹会优先扩展贯通。在探索中主应力对三维内嵌型裂纹扩展的影响时,发现随着中主应力的增加,“马蹄形”包裹状裂纹逐渐向中主应力方向靠近,裂纹体的强度先增加后减小,可为高地应力作用下的内嵌平面裂纹扩展规律的分析提供了一定的参考。除了平面裂纹,岩体中还存在曲面裂纹,针对三维曲面裂纹的扩展问题,建立曲面裂纹的数学描述方式,把三维裂纹曲面的几何信息反映到有限元模型中,以简化的AVIB模型为理论力学模型模拟了三维曲面裂纹的扩展规律,发现裂纹沿垂直于裂纹面最大主应变方向曲向扩展。然后对剪应力作用下内嵌裂纹的扩展过程进行了研究,考虑了裂纹分布、数目、尺寸大小、倾角、间距、法向应力等对内嵌裂纹的扩展演化规律和强度变化特征的影响。发现对于顺层裂纹,裂纹上下端部产生反对称的派生裂纹,多裂纹间的派生裂纹以反“Z”模式扩展并贯通;对于逆层裂纹,裂纹从裂纹短轴端部沿剪切力方向扩展直至贯通。这些规律性的结论对节理岩体和滑坡的稳定性评价具有重要的指导意义。为了验证本方法在动态断裂扩展模拟中的有效性,利用显式积分算法对三维裂纹的动力扩展进行了初步探索,数值模拟试验表明该方法在模拟材料动态断裂破坏方面是有效的,能够再现三维内嵌裂纹的扩展特征。单元劈裂法在模拟裂纹方面有着独特的优势,但初始的3D-EPM法没有考虑单元劈裂后的块体变形问题,单元尺寸较大时所产生的误差也很大。为弥补这一缺陷,本文提出了改进的三维单元劈裂法(3D Improve element partition method,3D-IEPM),将单元劈裂后的两个块体分别与其周围的结点建立联系,通过局部最小二乘法插值技术,推导了劈裂单元的刚度矩阵和结点力向量。通过这种方法,单元劈裂后的变形问题得以考虑,使单元劈裂法在理论上趋于完备,摆脱网格尺寸的限制。该文的研究结果为三维裂纹扩展提供了一个有效的力学模型和数值模拟方法,所得的结论对实际工程具有很好的指导意义。