最近几十年，通信技术经历了巨大的变化。尤其是数字通信技术的诞生与应用，更是极大地推动了通信技术的革命性发展。数字通信信号处理作为信号和信息处理两大学科的交叉学科，在近年内获得了极其迅速的发展，成为通信研究领域的一个亮点。其中盲源分离和盲信道均衡技术是通信信号处理领域里的重要分支。 盲分离在语音识别、信号去噪、无线通讯、声纳问题、生物医学信号处理、光纤通信等众多应用领域有着广泛而诱人的应用前景。经过将近二十年的发展，有关盲分离的理论和算法得到了较快发展，包括盲分离问题本身的可解性以及求解原理等方面的基本理论问题在一定程度上部分得到了解决，并提出了一些在分离能力、内存需求、计算速度等方面性能各异的算法。 信道盲均衡技术相对于传统的信道均衡技术，其区别在于不需要发送训练序列，仅根据接收信号的信息来训练调整均衡器。信道盲均衡技术优点在于，其一，免去训练序列占用的带宽，提高通信效率；其二，对时变信道有更强的信道跟踪能力和自适应能力。 本文着重研究信号盲分离的理论和算法，以及在信道盲均衡中的应用，具体的工作包括如下几个方面： 1．对信号盲分离和信道盲均衡技术的背景、原理、发展现状进行了总结，并分析了两种技术的区别和联系。 2．针对线性混叠的情形，提出一种基于遗传算法的有序盲信号分离方法，该方法除了能有效分离出源信号之外，同时保证源信号按照四阶累计量的绝对值降序提取，该方法能够搜索到问题的全局最优解，从而避免了算法陷入局部极值的问题。 3．针对观测信号多于源信号数目的过定混叠情形，提出了“逐次替代"过定卷积混叠盲分离方法。并指出：过定卷积混叠模型本质上一个方程数目多于未知数数目的过定方程组，基于最小均方误准则，该问题可归结为求解一个关于信道参数和源信号的优化问题，通过代价函数对未知参数求导数，并令导数为零，分别得到关于信道参数和源信号的两个表达式，通过对两个表达式的相互逐次替代，最终收敛，收敛所得的源信号即为所求，由此给出了“逐次替代”过定卷积混叠盲分离方法。逐次替代盲解卷算法无需设置迭代步长，容易编程实现。 4．提出了一个基于盲信号分离的聚类自然梯度盲均衡算法，充分利用了信号星座图的先验知识，为解决多峰值引起的问题利用了多阶聚类的方法。这比传统盲均衡算法更为精确，从而能得到更快的收敛速度和更低的码间干扰。 5．针对盲信道均衡的特点，将前面处理盲信号分离的方法应用到盲信道均衡的求解当中，提出了一个基于遗传算法的盲信道均衡方法和基于盲分离的盲均衡算法。 6．提出了一个变步长的混合CMA均衡算法。其中利用模糊逻辑来调整盲均衡滤波器步长，可以更为准确合理地选取步长，并能在盲均衡算法和DD--LMS算法之间平滑地转换，能兼顾盲均衡的收敛精度和收敛速度。