随着计算机技术的飞速发展,数字信号处理技术在通信、医学等领域得到了广泛的应用。盲源分离技术作为一种尖端的信号处理方法成为众多学者竞相研究的对象。盲源分离技术是指在未知原始信号和信号传输信道的情况下,只根据原始信号独立的统计特征,通过传感器的输出信号将原始信号恢复出来的过程。按未知信号传输信道的传输模式可以将盲源分离分为线性盲源分离和非线性盲源分离。线性映射下盲源分离可以只利用源信号的独立条件解决,而非线性映射下的盲源分离则是一个棘手的病态问题,需要大量的工作对它进行研究。本文分别对线性盲源分离问题与非线性盲源分离问题进行了研究。对于线性映射下的盲源分离问题,本文系统地研究了基于信息论、联合近似对角化及负熵的盲源分离算法,其中基于负熵的FastICA算法具有收敛速度快的优势,可以实时地应用于工程环境中,但它的求解依赖于初始分离矩阵的设置。本文对FastICA算法进行了改进,提出将牛顿下降法与Shamarskii法结合以改变原来的迭代方式,降低算法对随机初始分离矩阵的敏感性。利用实信号及复信号分别对改进后的FastICA算法进行仿真,结果表明改进后的FastICA算法不再敏感于随机分离矩阵的初始设置且提高了分离效果及收敛速度,与基于信息论、联合近似对角化的盲源分离算法相比分离效果及收敛速度更优。对于非线性映射的情况,本文针对后非线性混合研究了马尔可夫的盲源分离(Markov-PNL)和互信息的盲源分离(MIM-PNL)算法。本文在研究Markov-PNL算法基础上探讨了马尔可夫阶对算法性能的影响;传统的MIM-PNL与Markov-PNL算法因计算评分函数使收敛速度较慢,本文在评分函数参数化的基础上,利用多层感知器进行后非线性盲源分离,并对算法迭代式增加阻尼项,使算法更快地达到收敛。仿真结果表明改进的MIM-PNL算法提高了分离效果及收敛速度。