行星齿轮系是机械传动系统的重要组成部分,被广泛应用于航空航天、汽车、轮船等领域。行星齿轮系统能够实现较大的传动比以及运动的合成与分解,节省了很大的空间。但是行星齿轮传动系统相对复杂,对其进行必要的振动以及噪音检测便显得十分重要,尤其是对其故障信号监测有利于机械系统的早期预警。本文以某辊压机减速器行星轮系为对象,研究了裂纹对行星轮系啮合和振动特性的影响。首先,建立考虑轮系结构的健康行星轮系有限元模型,研究扭矩、减重孔、固定孔等对啮合刚度的影响。其次,通过ANSYS对平面行星轮系进行裂纹扩展仿真,分析了平面裂纹对啮合特性的影响。然后,基于ABAQUS软件针对空间行星轮系裂纹扩展轨迹进行模拟,对空间裂纹的影响进行研究。最后,建立行星轮系动力学模型,分析了裂纹对系统动力学特性的影响。本文的主要研究内容如下:（1）针对解析方法不能有效计算较为复杂行星齿轮系统啮合刚度的问题,例如带有柔性系杆行星齿轮系统啮合刚度、考虑减重孔和固定孔等结构的行星齿轮系统啮合刚度计算。通过ANSYS软件建立含柔性齿圈、系杆的行星轮系,分析了齿圈基体柔性和固定孔、太阳轮减重孔等结构对啮合刚度的影响,同时也分析了变位和修形对行星轮系啮合刚度的影响。（2）基于线弹性断裂力学,利用ANSYS软件计算裂纹尖端应力强度因子并对裂纹扩展路径进行模拟。通过和文献中板类零件的实验结果、ABAQUS软件仿真结果对比,验证了 ANSYS仿真结果的有效性。与此同时,通过齿轮故障试验台对齿轮进行疲劳失效仿真,其实验结果也很好验证了仿真的有效性。其次,利用ANSYS软件对行星轮系,包括太阳轮、行星轮和齿圈的二维裂纹扩展路径进行模拟。最后,利用ANSYS模拟所得的裂纹路径,建立了相应啮合刚度有限元模型,分析了裂纹对平面行星轮系啮合刚度的影响。（3）针对解析方法不能计算复杂形式空间裂纹齿轮刚度问题以及文献对裂纹形式多做假设的情况,在平面行星轮系裂纹扩展的基础之上,基于ABAQUS软件研究空间行星轮系裂纹扩展。分析了空间裂纹对啮合刚度的影响。同时,分析齿宽方向安装误差对啮合刚度以及应力分布的影响。（4）建立了含裂纹行星轮系集中参数模型和ADAMS刚柔混合动力学模型,分析系统振动响应。提取行星轮系振动信号,通过时域和频域分析,对比健康和含裂纹行星轮系啮合刚度激励下的响应,为行星轮系故障诊断提供依据。