盲信号分离是指在源信号及其混合传输信道未知情况下，仅仅利用观测到的混合信号来估计源信号。由于盲信号分离具有非常广泛的应用领域，如生物医学工程、语音增强、数字通信系统、图像处理、遥感、雷达和声纳等领域，从而成为现代信号处理领域研究的热点问题。通常为了研究方便，盲分离算法大都要求混叠是完备或超完备的，即观测信号的数目等于或大于源信号的数目。然而，由于实际条件所限，不可避免地会出现观测信号的数目小于源信号的数目的情况，即欠定情况，因此寻找有效的欠定盲分离方法意义重大。本文在欠定情况下，估计出源信号的数目，并且以广义高斯信号为特例研究了信号的稀疏性。同时推导出反映信号稀疏程度参数α的表达式。提出了一种新的两步法来实现欠定情形下盲信号的分离。新的两步法首先采用一种重构观测信号采样点搜索法来估计混合矩阵；其次提出了一种伪提取矢量的概念，通过伪提取矢量来提取取值占优的源信号采样值，以此来恢复源信号。仿真实验证明，该算法分离精度比传统的盲分离算法精度更高。对混叠矩阵的估计，常常采用K均值聚类算法，但是K均值聚类算法有其自身的局限性，即在确定混叠矩阵A的过程中，模较大的观测信号要比模较小的观测信号更为有效，基于此，文章提出了一种基于K均值与主成分分析相结合的估计混叠矩阵的新算法。该算法可以回避目前所采用的K均值聚类算法的不足，通过实验证明，该算法在没有增加估计复杂度的情况下，改善了混叠矩阵的聚类精度。在理论上研究了欠定情形下的延迟源的盲分离。本文利用频域单元区间提出了一种新的估计衰减矩阵与延迟矩阵的算法。此算法首先检查了处于单元区间的样本，先估计了衰减矩阵，再利用优化逼近算法估计出了时间延迟。在稀疏原则下，针对传统的Bofill提出的源信号重建问题在复杂度问题上做了进一步的探讨，使源信号恢复问题得到了简化，计算的复杂度降低。本文主要是针对以上三个方面进行了研究，最后利用大量的仿真实验与数学模型验证了本文所提出的理论与算法。