近年来,共形阵天线在机载雷达领域展现出广阔的应用前景。与一维线阵或二维面阵这样的传统简单构型阵列相比,共形阵的阵元排布契合于载体平台结构,不仅可以增加阵列天线的孔径面积,扩展阵列天线的扫描视野,而且不会影响载体本身的气动-隐身一体化设计,显著提高了机体的战斗力与生存能力。共形阵波束形成技术一方面能够在发挥共形天线优势的基础上,为机载雷达提供抑制杂波与空间干扰的能力,提高目标的检测性能;另一方面,也面临一系列问题,如样本数量不足、样本受到污染、互耦校正困难等,影响了其在实际应用场景中的性能。本文主要研究共形阵等复杂天线阵列在小样本、样本污染、互耦等非理想条件下的波束形成技术。通过分析传统自适应波束形成算法性能下降的原因,在提高波束形成算法的稳健性方面取得突破,先后提出了三种改进的复杂天线阵列波束形成方法。论文的主要内容概括如下:1.研究了波束形成基本原理并讨论了其用于复杂天线阵列时的性能表现。首先,建立了阵列天线接收信号的一般模型;之后,介绍了自适应波束形成的基本原理;在此基础上,结合理论分析和仿真实验对简单构型阵列和复杂构型阵列波束形成方法的性能进行了比较,论证了复杂天线阵列波束形成技术的发展潜力和研究价值。2.研究了小样本和训练样本受到期望信号污染情况下的稳健自适应波束形成方法。首先,从实际应用场景出发,分析了传统自适应波束形成在计算复杂度、样本数量需求和样本特性需求等方面可能面临的问题;之后,针对这些问题,对几种已有的稳健波束形成算法进行了深入分析;在此基础上,提出了一种改进的干扰加噪声协方差矩阵重构自适应波束形成方法,该方法较为准确地估计了噪声功率,在小样本和训练样本受到期望信号污染的情况下具有良好的性能,且运算量较低。3.研究了互耦条件下均匀圆阵的稳健自适应波束形成方法。首先,对天线阵列单元间的互耦效应及其所带来的阵列误差进行了建模分析,量化了互耦效应对波束形成算法的影响;之后,针对这种影响,分析了均匀圆阵的互耦特性;在此基础上,提出了两种稳健自适应波束形成方法,一种基于球形约束优化问题的求解,另一种基于波达方向与互耦参量的迭代估计。仿真数据验证了两种方法在互耦条件下均具备较好的稳健性。