盲源分离（Blind Source Separation,BSS）作为信号分离和提取的有效方法,广泛应用于传统机械的故障诊断中。然而,在一般的盲分离模型中,往往要求信号接收器的个数不少于信源的数目。但事实上,由于成本、监测环境等问题,可能无法对故障机械同时安装多个传感器,有时甚至在机械设备运行过程中出现仅能对其进行单通道监测的状况,即所谓欠定测量。同时,微弱信号往往难以提取。这些都制约了盲源分离在旋转机械故障诊断的应用。本文通过将盲源分离理论应用于欠定测量中（即欠定盲源分离）及源数估计的研究,实现了低信噪比、欠定条件下的故障特征提取,并成功将这一算法应用于旋转机械故障诊断中。具体内容如下:（1）概述了盲源分离和旋转机械故障诊断的研究现状;分析了其他学者的研究成果以及存在的问题;研究了盲源分离的核心理论框架。（2）研究了盲源分离所涉及到的源数估计问题。针对低信噪比条件,利用Toeplitz矩阵优化了传统特征值分解方法,通过仿真对比分析,证明了新算法在低信噪比条件下的非相干源和相干源的源数估计准确率有明显的提高。（3）研究了欠定盲源分离方法,针对一维观测信号,利用EEMD优化了欠定盲源分离方法,利用与源信号的相关系数作为评价标准,对比传统欠定盲源分离方法,提高了源信号的恢复准确率。（4）对于欠定条件下的旋转机械故障诊断,利用Hankel矩阵优化了欠定盲源分离算法,通过Hankel矩阵构造多维信号实现盲源分离,仿真结果表明,新算法对于微弱故障特征的提取更加明显。（5）研究了转子故障机理以及典型的信号特征,并且搭建了转子故障实验平台,利用本文提出的故障诊断算法对采集到的单通道故障信号进行分析与诊断,实验结果对比表明,新算法可以更加有效的进行故障诊断。本文在欠定测量和低信噪比情况下将欠定盲源分离理论应用到故障诊断中,完成了源数估计方法以及盲源分离方法的研究。该研究可为旋转机械故障信号的诊断与分析提供参考。