科学技术的快速进步推动现代工业产业的蓬勃发展,工业机械装备朝着大型化、精密化、高速化和智能化方向发展。旋转机械设备在工业机械装备中应用广泛,常服役于重载、高速、高温等复杂环境,其关键零部件不可避免地出现性能衰退,导致故障时有发生。因此开展旋转机械设备状态监测与故障诊断研究,可靠识别关键部件中潜在异常或故障,对保障机械设备安全可靠运行具有极其重要的意义。本文以旋转机械设备中关键部件的故障特征精确识别与可靠故障诊断为目标,着眼于信号稀疏表示方法在故障信号特征识别中的应用研究。针对信号稀疏表示方法中的稀疏表示字典构建和稀疏分解算法的提出等两个关键问题,研究有效的非凸正则化稀疏表示方法,以提高故障特征成分的估计精度,增加故障诊断的可靠性。研究的方法主要涉及两方面:一是构建与故障特征成分相匹配的稀疏表示字典,二是提出有效的稀疏分解算法来精确估计故障信号的稀疏表示系数。论文的主要工作如下:小波字典下匹配追踪方法及其故障特征成分估计应用研究。在稀疏表示字典构建方面,在分析旋转机械设备关键局部故障信号特点基础上,研究利用紧支撑Laplace小波与Morlet小波作为基底来构建与故障成分相匹配的过完备解析字典。在稀疏分解算法方面,采用L0范数构建精确的稀疏表示模型,并基于融合多组稀疏表示结果以提高估计精度的思想,应用平均化随机正交匹配追踪算法来近似求解L0范数构建的精确模型。通过数值仿真实验,验证了所提的方法可以以较高精度估计出故障信号中的故障特征成分,并将其成功应用于轴承和齿轮箱等故障信号特征识别,取得良好的故障诊断应用效果。紧框架下非凸正则化稀疏表示方法及其故障特征成分估计应用研究。在稀疏表示字典方面,针对故障信号中成分的振荡属性不同,研究满足紧框架条件的调Q小波变换来构建稀疏表示字典。在稀疏分解算法方面,针对常用的L1范数等凸罚函数存在低估信号高幅值成分,影响故障特征成分估计精度的问题,提出利用GMC(Generalized minimax-concave,GMC)罚函数来构建稀疏表示模型。GMC罚函数可以显著改善高幅值成分低估问题,并且基于GMC罚函数构建的模型在特定条件下为凸函数,允许利用凸优化算法对模型进行快速优化求解,并且目标解能够稳定收敛。通过数值仿真和工程实验信号分析,验证了所提方法可以显著改善了幅值低估问题,提高故障特征成分的估计精度,增加故障诊断的可靠性。紧框架下平衡非凸正则化稀疏表示方法及其故障特征成分估计应用研究。信号稀疏先验是稀疏表示模型构建的关键之一,基于合成的先验建模方式常被用于故障特征成分估计,对于基于分析和平衡的先验建模方式研究较少。而基于平衡先验的模型通过平衡参数在合成和分析模型间建立了联系。为了验证平衡先验在故障特征成分估计方面的性能,同时从故障特征成分精确识别这一需求出发,提出基于平衡先验和MC(minimax-concave,MC)非凸罚函数的稀疏表示方法。通过数值仿真实验,验证了所提方法可以以较高精度估计出故障特征成分,并将该方法成功应用于轴承和齿轮箱故障特征估计,取得良好的应用效果。本文的研究工作对提高故障特征成分估计精度,增加旋转机械设备关键部件故障诊断的可靠性具有重要的理论和实用意义。