风电机组齿轮箱轴承作为风电机组运行的重要部件,在恶劣环境中长时间运行极易发生故障,导致经济损失,因此,对风电机组齿轮箱轴承进行早期故障诊断以确保风电机组正常运行具有重要意义。本文针对风电机组齿轮箱轴承故障振动信号存在的故障特征微弱、干扰大以及非平稳非线性等问题,首先利用改进的小波包变换（Wavelet Packet Transform,WPT）对信号进行降噪;然后结合变分模态分解（Variational Mode Decomposition,VMD）对故障特征进行提取;最后利用优化后的支持向量机（Support Vector Machine,SVM）对风电机组齿轮箱轴承进行故障诊断。本文主要研究内容如下:（1）针对小波包最优基选择算法在微弱故障信号降噪方面效果差以及终端节点不易确定的问题,本文以B-M风险函数代替熵作为代价函数,并重新规定了终端节点选择策略,利用蚁群算法（Ant Colony Optimization,ACO）对优化目标寻优,根据代价函数值确定最优小波包基。同时,分析了小波硬阈值函数存在间断点以及软阈值函数存在恒定误差的缺点,提出一种新的小波阈值函数,新函数具有在软硬阈值相互转换的特性,能够提高算法的适应性,优化了软硬阈值方法的不足。（2）针对量子蚁群算法（Quantum-Inspired Ant Colony Optimization,QACO）所存在的寻优时间长以及易陷入局部寻优的问题,提出一种自适应动态补偿量子蚁群算法（Adaptive dynamic compensation quantum-Inspired ant colony optimization,ADCQACO）,并结合随机森林算法（Random Forest,RF）优化SVM。首先通过随机森林理论对SVM的惩罚因子C和核函数参数θ进行重要性筛选,降低蚁群搜索范围,生成寻优数据库;然后利用改进量子旋转角选取方式的量子蚁群算法寻找数据库中的最优惩罚因子C和核函数参数θ;最后构建RF-ADCQACO-SVM诊断模型。（3）利用西北风场的实测数据对RF-ADCQACO-SVM诊断模型进行验证。首先利用改进小波包对实测数据进行降噪,通过仿真得到实测数据的波形图和频谱,并与原始信号进行对比,说明了本文所提的改进小波包算法在降噪方面的有效性;其次,利用VMD对降噪信号分解,得到IMF分量,计算各分量排列熵,构建故障特征向量;最后,将特征向量输入RF-ADCQACO-SVM诊断模型,得到故障分类结果,并与ACO-SVM、AACO-SVM、AQACO-SVM分类模型进行对比,验证了所提模型在风电机组齿轮箱轴承故障诊断中的有效性和优越性。