为了解决旋转设备复合故障信号的分离和特征提取问题，本论文围绕欠定盲源分离的基本理论和主要分析方法展开研究。以滚动轴承复合故障作为诊断对象，利用振动信号，对其复合故障信号进行了研究与分析，并与传统信号处理方法进行对比，进一步证明了本文相关方法的有效性。　　本文研究了总体经验模态分解(EEMD)和独立成分分析(ICA)相结合的欠定盲信号特征提取方法。利用EEMD方法将一维混合数据分解为多路同步信号，使得ICA的欠定模型变换成正定模型。通过EEMD-SVD-ED方法估算振动源的数目。同时为克服经典ICA的不足，重点研究了改进的LM-FastICA方法。实验结果表明，与传统方法相比，该方法不仅可有效分离轴承外圈、滚动体和转子不平衡等故障信息，且降低了算法运行时间，提高了运行速度。研究了一种改进的约束独立成分分析(CICA)方法并将其应用于旋转设备单通道复合信号分离中。首先利用离散小波变换(DWT)获得多路同步信号。计算各层小波重构信号中旋转设备各元件的故障特征频率能量比，基于能量最大化原则建立了CICA算法的参考信号。最后运用奇异值分解(SVD)方法估算故障源数，提取期望的故障信号。实验结果表明，改进方法不仅有效地分离了轴承外圈和滚动体故障信号，且提高了故障信号提取的速度和准确率。将形态滤波(MF)和稀疏成分分析方法(SCA)结合，实现复合信号特征提取。采用形态滤波方法对复合信号预处理，使其具备一定的稀疏特性。基于势函数法估算源信号个数及其混合形式，并运用SCA方法分离稀疏后的混合信号，估计各个故障源信号。