行星齿轮箱是大型机械设备的关键传动环节,其可靠性与稳定性对机械设备安全运作起到至关重要的影响。随着服役时间的增长和工况环境的复杂改变,行星齿轮箱将不可避免地产生故障情况。因此,能够快速、有效的对行星齿轮箱的故障进行诊断变得极为重要。目前,振动信号分析方法与智能诊断方法已经广泛应用于行星齿轮箱故障诊断。然而,重型机械的操作环境往往十分恶略,并且充斥着各种噪声,这将会导致传统信号处理方法的诊断性能下降、智能诊断方法诊断准确率不高、泛化能力差。因此,如何从复杂的振动信号中提取更具有代表性的故障特征显得尤为重要,也是本文的研究课题。本文以行星齿轮箱为研究对象,对其故障诊断开展研究,以提取更具有判断性的特征为研究主线,提出一种特征指标参数优化策略和两种故障诊断方法,进而提高信号处理方法的诊断性能和智能诊断方法的抗干扰性和适应能力。本文的研究成果如下:(1)为了确定改进的边带能量比(Modified sideband energy ratio,MSER)中两个参数选取的问题,即带宽宽度和边频带个数,本文提出一种基于极端梯度提升的参数选取方法。该方法利用极端梯度提升对不同参数组合所计算的MSER值进行分类诊断,并以此诊断结果为依据,选取诊断准确率最高的一组参数作为MSER的参数。此外,通过这种参数选取方法引出了一种基于传统信号指标的诊断方法,也就是通过提取诊断信号的故障指标,利用浅层机器学习算法进行故障诊断。(2)为了避免人工提取信号故障指标的繁琐,实现“端到端(end-to-end)”的训练,本文提出了一种“深度自编码器-小体积卷积神经网络结构(Deep autoencodermini convolutional neural networks,DAE-MCNN)”。该网络的深度自编码器部分能自动无监督地从诊断信号中提取特征,而小体积卷积神经网络部分由于体积小、网络参数少的特点,能从少量数据样本中快速完成参数的更新迭代,提高了诊断准确率,避免网络过拟合现象的产生。(3)为了将定转速下的振动信号所训练的模型应用于波动转速,本章提出一种基于DAE-MCNN迁移学习方法,该方法结合了深度迁移学习的三种类型迁移策略,其中深度自编码器部分的特征提取能力只提取了信号的故障特征,忽略了波动转速造成的信号幅值变换,从而将问题简化。在迁移的过程中冻结了DAEMCNN网络的全部训练参数,并在其后添加了两层的自适应网络,提高模型的特征学习能力和泛化能力,通过实验证明所提出的策略具有更好的域适应能力。本文采用从行星齿轮箱实验台获取的振动信号对提出的三种故障方法的有效性进行验证和评估,实验分析结果表明了提出的方法优于现有的故障诊断方法。最后,总结了本文方法存在的问题和未来的工作。