目前我国工业发展迅速,机械设备中齿轮箱的数量高速增长,同时也对齿轮箱的故障诊断带来了巨大挑战。为了适应大数据所带来的发展,提高齿轮箱的故障诊断效率,需不断增强故障诊断的智能化程度。目前有很多应用于齿轮箱模式识别的智能故障诊断方法,主要分为基于有监督学习的模式识别和无监督学习的模式识别,但是因为很难获得具有通用性的样本数据,因此主要基于训练样本数据的有监督学习的模式识别很难在实际应用中使用。在这一前提下,本文主要研究应用于齿轮箱故障诊断的无监督学习的模式识别方法。首先,采用了一种基于无监督学习的自适应共振(Adaptive Reonance Theory2,简称ART2)神经网络,并且利用ART2神经网络来表现齿轮箱的运行状态,实现ART2神经网络在无训练样本的前提下实现齿轮箱运行状态的模式识别。在特征值的提取方面采用相对小波包能量作为特征值的提取方法,然后运用ART2神经网络来对提取的特征值进行分析,在警戒值的选取上采用类内距离准则函数的最小值,以提高神经网络的分类精度。并且利用试验台测得的轴承寿命振动数据对所提出的方法进行分析验证,分析结果表明了该方法可以体现轴承由正常到失效的状态变换过程,验证了方法可行性。其次,因为ART2神经网络在激活神经元时只选择输出值最大的神经元进行激活,忽略了其他输出值较大神经元的作用,而这些输出值较大的神经元也可能满足警戒值的要求,从而导致计算结果单一,尤其是在输入样本的模式特征相似的情况下,分类精度很难保证。基于上述问题,本文采用一种结合K-means算法的ART2神经网络的分类方法,将K-means算法引入ART2神经网络中,对ART2神经网络的这种缺陷进行修复。通过仿真数据对所提方法的可行性进行验证,结果表明此方法成功解决了ART2神经网络只选择输出值最大神经元的问题,提高了分类精度。最后,因为实际工作中从齿轮箱上所采集的振动信号是含有噪声的,所以在结合K-means算法的ART2神经网络的前提下又引入了小波阈值降噪的方法对信号进行预处理。通过多组试验数据对所提方法进行验证,试验结果表明所提方法成功解决了噪声干扰的问题,进一步提高了分类精度。