现代工业生产设备的发展越来越大型化、复杂化、高速化和自动化。轴承是旋转机械中最常用、也是最易损伤的零部件之一,其工作状态直接影响着整台设备的性能。由于其寿命的离散性较大,如果按照设计寿命对轴承进行定期维修就会造成资源浪费和难以及时发现突发故障的情况,因此对其运行状态检测和故障诊断有着十分重要的意义。本文以滚动轴承振动信号为研究对象,提出了信号特征提取和故障诊断的方法。研究了分形理论和变分模态分解在滚动轴承故障中的应用。首先,阐述了轴承故障的常见形式及其形成机理。接着对目前轴承振动信号进行特征提取的方法和滚动轴承故障诊断的基本流程也进行了详细阐述。其次,对分形理论和分形维数进行详细阐述,分析了轴承振动信号的分形特性,主要包括自相似性,标度不变性以及多重分形特性。证明可以利用分形的方法来分析轴承振动信号的复杂度,定量的描述信号的分形特征。然后分别选取单重分形的盒维数和多重分形的广义分形维数作为故障诊断的特征量,实现故障信号的状态区分,此外,对单重分形和多重分形故障诊断方法的优缺点也做了详细分析。接着提出基于变分模态分解和广义分形维数的轴承故障诊断方法。该方法是对广义分形维数的延拓,要求先对信号进行变分模态分解(Variational Mode Decomposition,VMD),VMD是一种非递归、变分的模态分解方式,通过迭代搜寻变分模型的最优解确定每个分量的频率中心及带宽来获取分解分量,从而将信号自适应分解地分解为若干模态函数(Mode Function,MF),再求取各模态分量的广义分形维数构建广义分形维数矩阵作为故障诊断的特征量,最后通过相关分析来实现对待测设备故障状态的识别。最后,以美国凯斯西储大学实验室的滚动轴承故障数据作为研究对象,对轴承不同部位故障和不同损伤程度故障进行诊断分析,然后将变分模态分解广义分形维数矩阵方法的诊断结果和广义分形维数的诊断结果进行对比,证明本文提出方法具有更好的可行性和精确性。