盲源分离问题是信号处理领域当中一个传统而又具有挑战性的问题,其中欠定盲源分离尤其受到广大学者的关注,目前解决欠定盲源分离问题的方法主要是基于稀疏分量分析理论的“两步法”。本文在对欠定盲源分离问题深入研究的成果之上,针对稀疏性较差的源信号,研究了增强信号稀疏性的欠定盲源分离算法。本文的主要工作如下:首先,介绍了盲源分离模型的基础知识及稀疏分量分析理论,阐述了几种常用的稀疏变换,并且说明了几种传统的混合矩阵估计算法和压缩感知的基本原理,在此基础上说明了衡量混合矩阵估计性能的标准和衡量源信号恢复的性能标准。其次,针对稀疏性较差的源信号,研究了两种估计混合矩阵的算法:基于角度的孤立点检测及模糊C均值聚类的混合矩阵估计,以及基于时频单源点与源数目估计相结合的混合矩阵估计算法,通过去除孤立时频点和提取单源点来增强信号的稀疏性。在分析欠定盲源分离及压缩感知模型一致性的基础上,研究了基于压缩感知及自适应K-SVD字典的源信号重构算法,实现了源信号的分离。最后,对所提出的方法进行了语音信号混合分离的仿真实验及分析,实验结果表明本文研究的分离算法获得的矩阵估计误差小并且源信号恢复精度高。