自适应波束形成是阵列信号处理领域研究最多的课题之一，它广泛的应用于通信、雷达、地震勘探、医学成像等领域。由于导向矢量误差、协方差矩阵估计误差等误差的影响，会导致自适应波束形成器性能的下降。因此，研究自适应波束形成的鲁棒性显得十分必要。本论文主要是研究了鲁棒波束形成算法，提出了两种新的方法：第一种是针对基于干扰子空间是已知的匹配方向波束形成（MDB with known IS）和基于广义旁瓣消除器的多秩最小方差无失真波束形成（Multirank MVDR）中存在的不足提出了一种新的方法；第二种是基于子空间不确定集合提出了一种新的方法，最后通过仿真验证了这两种方法都能够提高输出信干噪比。主要的研究内容如下：（1）介绍了波束形成技术的阵列模型及相关的一些基本知识，然后介绍了实际导向矢量与理想导向矢量不一致时对波束形成性能的影响，最后介绍了几种经典的鲁棒波束形成算法，并对它们各自的特点进行了分析。（2）介绍了期望信号基于子空间的三种信号模型，然后介绍了这三种信号模型在雷达、声呐和无线通信中的应用，最后介绍了期望信号导向矢量的求解。（3）介绍了线性子空间H的构造，指出了MDB with known IS要求干扰子空间是先验的和Multirank MVDR要求干扰信号对误差协方差矩阵的影响可以忽略的不足，针对这些问题本论文提出了一种新的方法（不需要利用干扰子空间），最后进行了仿真，并对结果进行了详细的分析。从仿真结果我们可以看出本文方法具有与MDB with known IS相同的性能，并且在干扰信号的DOA接近期望信号的DOA的情况下本文方法的性能优于Multirank MVDR的性能。（4）基于子空间不确定集合提出了一种新的方法，其思想是：在信号子空间估计不理想的情况下，在传统信号子空间估计的方法上强加了一个约束条件即信号子空间和期望信号的导向矢量所在的先验空间存在交集。这个问题就可以简化为两个反复迭代的子问题，而且这两个子问题都存在闭合解。最后进行了仿真，并对结果进行了详细分析，仿真结果表明在低信噪比和低快拍数时本论文方法的性能要优于对角加载的方法和基于信号子空间投影的方法。