齿轮箱作为传递动力的部件，在现代机械设备中是不可或缺的，因此，对齿轮箱的故障诊断研究有着极其重要意义。本文研究了齿轮箱的典型故障形式及振动机理，分析了齿轮箱振动信号的特征；研究了模态分析中的三类分析方法：计算模态分析、试验模态分析、工作模态分析，并运用工作模态分析技术进行了齿轮箱故障诊断的研究，针对工作模态分析中的变速振动信号，又引入了信息熵理论，提出了基于互功率谱的熵值计算，对比识别达到故障诊断目的。　　首先，搭建了基于JZQ-250型齿轮箱的实验平台，根据实验要求选择了实验仪器，人为设置多种故障，制定了实验方案。通过UG和ANSYS对齿轮箱进行了实体建模及有限元分析；运用PolyMAX法对齿轮箱的频响函数进行了模态参数识别，得到试验模态分析结果。综合两种分析结果并结合测点布置相关理论，根据模态振型对实验测点进行了布置。对定转速和增速的齿轮箱振动信号进行了采集。　　其次，研究了齿轮箱工作模态分析方法，用多参考互功率谱矩阵代替频响函数矩阵，通过Op.PolyMAX法来识别系统的极点。运用这种方法分别对正常与故障齿轮箱进行匀速和变速振动信号分析，识别出模态频率及振型，对比工作模态分析结果，找出差别，实现故障的提取。其中，对变速振动信号分析中，研究了齿轮箱振动信号的谐波成分并进行了谐波剔除处理。　　最后，研究了信息熵理论，提出了基于互功率谱的熵值计算，针对齿轮箱不同工况下得到的SUM互功率谱进行信息熵值的计算，并综合振动信号的奇异谱熵和功率谱熵，用神经网络进行识别，达到故障诊断目的。