智能天线作为无线通信技术领域中的一个研究热点，现已成功应用于通信系统中。它利用现代数字信号处理技术，选择合适的自适应算法，动态形成空间定向波束，达到充分利用移动用户信号来抵消或最大程度地抑制干扰信号的目的。本论文主要研究了智能天线技术中的核心内容一自适应波束形成算法。具体内容有：文中首先介绍了各种波束形成算法，包括非盲算法、基于DOA的算法和盲算法，并分别对其性能进行了分析和比较。在研究基于DOA的波束形成算法的基础上提出了一种改进的算法，该算法的最优权值采取将MVDR算法得到的初始权值向构建的干扰信号的正交子空间投影而获得，因此具有较强的抑制干扰能力。并且针对于盲算法中的恒模算法普遍存在的干扰捕获问题以及预处理算法只适用于特定环境的情况下，提出一种改进方法，采取将基于最小Rayleigh熵的恒模算法得到的最优权值作为初始权值进行迭代更新，仿真结果证实了算法的有效性。继而介绍了CDMA系统中的波束形成技术。通过研究分析发现传统的应用于CDMA系统的自适应波束形成是在信号解扩前进行的，在高码片率情况下此方式就受到限制。另外，其参考信号还需要重扩频，使得系统的复杂度进一步增加。因此本文采用先把接收信号与本地扩频码相乘解扩后再进行波束形成的新方法，即基于扩频码滤波的波束形成技术。并且基于最大化信干噪比，提出将一种复杂度较低的无约束的在线迭代算法应用于其中的综合方案。仿真结果证实了算法在不同通信环境下都具有良好的性能。最后论文分类概述了目前已提出的多种多用户分离方案，包括分阶段多用户算法、基于正交化的算法和基于代价函数改造的算法。针对于这些算法存在的复杂性以及收敛不稳定性，本文提出了一种基于迭代最小二乘投影CMA的多用户盲分离算法，可以在不知道信号先验知识的情况下对来自不同方向上的独立信号进行有效地分离。提出的算法不需要进行繁琐的Gram-Schmidt正交化处理，并且在盲分离信号的基础上还可以估计出信号的波达方向。仿真结果表明新算法不但实现简单、收敛迅速，而且具有性能稳定、分离效果良好的特点。