作为常规油气资源的重要补充,以页岩气为代表的非常规油气资源在世界能源结构板块中扮演着越来越重要的角色。页岩储层埋藏较深,其孔隙结构十分致密,具有低孔隙度、低渗透率的特点,自身不具备油气资源的运输能力,需要借助水力压裂等储层改造技术来提供人工的裂缝网络,促进油气资源的生产运移,从而实现页岩气的商业化开发。在此背景下,如何准确地描述水力压裂过程中裂缝在非均质页岩中的演化行为及机理,是关系到页岩气勘探和开发中的关键技术难题,也是流固耦合作用下的断裂力学前沿科学问题。页岩的非均质性来源于页岩储层中大量的天然裂缝以及层理界面等地质非连续性,这些裂缝或界面表现出与岩石基体不同的损伤和断裂特征（例如断裂韧性）,不同储层间也表现出明显的材料差异性（例如杨氏模量）,从而使水力裂缝在这些裂缝或界面附近的扩展行为极为复杂。本文围绕水力裂缝在非均质页岩中的演化行为这一关键科学问题,综合运用扩展有限元方法和相场方法,建立了流固耦合下的水力压裂非连续和连续断裂力学模型,从数值模拟的角度揭示了水力裂缝与非均质页岩中的储层界面和天然裂缝的相互作用机制,并发展了相应扩展有限元水力压裂算法:（1）建立了具有材料差异性的页岩储层的弱界面模型,提出了基于能量的水力裂缝与该弱界面相交后的扩展准则,分析了弱界面的粘结强度、弱界面与水力裂缝的相交角度以及弱界面两侧材料的差异性对水力裂缝扩展行为的影响。结果表明,界面与岩石基体的断裂韧性比越小,水力裂缝与界面相交后越倾向于沿着界面偏转;弱界面与水力裂缝的相交角度越小,水力裂缝与界面相交后越倾向于沿着界面偏转;水力裂缝从软层向硬层扩展时,两层的软硬程度差距越明显,水力裂缝越容易穿过弱界面,进入到另一层岩石基体中。此外,数值模型还捕捉到了水力裂缝的扭结现象,即水力裂缝被界面捕获后会再一次摆脱界面,向着另一层岩石基体扩展。（2）发展了水力压裂的非连续断裂模型和连续断裂模型相结合的混合断裂模型,并基于此提出了一种以扩展有限元法和相场法为基础的水力压裂问题的全局-局部数值模拟方法,研究了水力裂缝与页岩中不同类型天然裂缝的相交行为。通过和KGD水力压裂模型的对比,所提出的混合数值计算方法可以有效地预测水力裂缝的扩展路径、精确描述和表征裂缝的几何形貌,具有很好的计算效率。另外,该方法成功实现了对单条水力裂缝与粘结型和摩擦型天然裂缝的相互作用行为的模拟,并通过在对多缝交互作用中的应用,说明了其在模拟复杂裂缝网络上的可行性。（3）将二维扩展有限元方法建立的水力压裂模型扩展到三维情况,发展了三维的水力压裂流固耦合数值模型。该三维数值模型集成了可用于描述平面裂缝的混合模式的扩展准则,包括判断平面裂缝每个裂尖顶点能否扩展的判定,扩展方向（偏转和扭转方向）的确定以及扩展长度的选取。此外,给出了平面裂缝裂尖顶点的自适应扩展算法,根据裂尖的应力强度因子的水平,自动选择合适的裂缝扩展长度,包括两个平面裂缝的接近、相交和融合过程。初步数值试验结果表明,该三维数值模型能较好地模拟水力裂缝的扩展过程,有望建立三维水力裂缝与天然裂缝相交的数值模拟框架,揭示水力裂缝与天然裂缝相互作用后的复杂三维裂缝形貌。本文建立的二维和三维水力压裂数值模型、控制方程离散求解方法以及相应的裂缝扩展准则,不仅为流固耦合作用下的非均质页岩的断裂力学行为和机理提供了数值分析方案,也为石油工程的水力压裂施工技术提供关键的理论支撑。