在数字通信系统中，码间干扰始终是影响通信质量的主要因素之一。均衡技术是抑制码间干扰、改善系统工作特性的有效方法。盲均衡则是一种不借助训练序列，仅利用接收序列和发送序列的先验知识来恢复发送信号的方法。本文主要研究基于恒模算法的盲均衡。　　 论文首先概述研究意义、盲均衡的技术发展以及本文所做的主要工作。然后对数字通信系统中广泛应用的Bussgang类盲均衡算法-恒模算法(CMA)进行了研究，仿真了基于单输入单输出(SISO)系统的恒模算法，分析制约其性能提高的因素。随后，概述MIMO盲均衡系统的模型，研究了三种经典的基于MIMO系统的CMA算法：多用户恒模算法(MU-CMA)、最小二乘恒模算法(LS-CMA)和连续干扰抵消最小二乘恒模算法(SIC-LSCMA)，并将它们的应用范围扩展到复信号和复信道，验证并比较各算法的性能。接着，研究了两类改进的CMA算法：变步长CMA算法及基于判决反馈功率的恒模算法，分析并通过仿真实验研究了两种算法的性能。最后，论文探究了以变步长和反馈功率相结合的盲均衡算法，构造出三种基于变步长的多模判决反馈盲均衡算法，通过仿真分析、参数选取和误差函数的选择，提出一种较好的基于变步长的多模判决反馈盲均衡算法(即e2μw-BNDFE)，仿真结果表明，本文提出的新算法可以提高计算效率，表现出了优于文献算法的良好性能。