伴随着技术的进步和研制成本的降低,阵列信号处理在近几十年里得到了突飞猛进的发展。超分辨空间谱估计和稳健自适应波束形成作为阵列信号处理的两个重要研究分支,以其优越的性能,在军事和民用领域得到了广泛的应用。然而,面对日益复杂的信号传播环境,超分辨空间谱估计和稳健自适应波束形成都面临着越来越大的挑战。本文针对非理想情况下的超分辨空间谱估计和稳健自适应波束形成问题展开研究,其目的是:(1)在少快拍、低信噪比或者强相关性条件下,提高空间谱估计算法的空间角度估计精度和分辨力;(2)在模型失配条件下,增强自适应波束形成算法的稳健性。本文提出、推导了一系列具有理论及实用价值的新算法,并通过计算机仿真实验验证了所提算法的优良性能。归纳起来,本文的贡献主要在以下几个方面:1.本文对子空间类空间谱估计算法进行了研究,将虚拟多维结构构造到任意类型的谐波信号中,并提出了两种基于虚拟多维结构的子空间类空间谱估计算法。多维谐波信号的多维结构本质上是指谐波信号的导向矢量具有Kronecker积的结构。与奇异值分解(Singular Value Decomposition,简称SVD)相比,高阶奇异值分解(Higher Order Singular Value Decomposition,简称HOSVD)能够利用多维谐波信号的多维结构来提高信号子空间的估计精度,进而改善子空间类多维空间谱估计算法的性能,特别是在少快拍和低信噪比情况下。为了将HOSVD应用于子空间类一维空间谱估计问题中,本文提出借助转换矩阵在一维谐波信号中构造虚拟多维结构。另外,本文还提出将虚拟多维结构构造到多维谐波信号中。这样,HOSVD就能够充分利用多维谐波信号本身的多维结构和构造的虚拟多维结构来进一步提高子空间类多维空间谱估计算法的空间角度估计精度和分辨力。2.本文对最大似然(Maximum Likelihood,简称ML)类低仰角跟踪算法进行了研究,推导出了(Refined Model based-Maximum Likelihood Estimation,简称RML)算法关于目标仰角估计的理论均方误差公式,并在此基础上提出了一种基于频率捷变的RML算法。RML算法是传统ML算法在低仰角跟踪模型下的一种改进,受多径效应的影响,该算法存在一种特性:目标仰角的估计精度随雷达工作频率的增加而波动性变化。为了提高目标仰角的估计精度,本文提出在最小均方误差准则下利用目标跟踪过程中仰角的预测值来优化雷达工作频率。基于频率捷变的RML算法在本质上遵循了认知检测与跟踪的思想。尽管现有的低仰角估计算法有很多,但是它们大都只关注雷达接收端的信号处理却忽略了发射端,而基于频率捷变的RML算法尝试利用目标仰角的在线信息来调整雷达工作频率,以实现雷达系统整体性能的提升。3.本文对点信号模型下的稳健自适应波束形成算法进行了研究,提出了两种适合点信号模型的稳健自适应波束形成算法。众所周知,训练样本是阵列信号处理的一种重要资源,多快拍的训练样本可以提高系统的稳定性。但是当训练样本的维数比较大或者要求自适应波束形成器对外界环境的快速变化反应敏感时,训练样本的快拍数都不会很大。然而,少快拍会造成阵列协方差矩阵失配,导致自适应波束形成器的性能下降。针对如何在少快拍情况下提高自适应波束形成器稳健性的问题,本文提出一种联合阵列协方差矩阵修正和期望信号最优导向矢量估计的稳健自适应波束形成算法。另外,降维运算也是提高自适应波束形成器对由少快拍引起的阵列协方差矩阵失配稳健的一种重要途径,并且它还能够降低算法的运算量。过多的运算资源消耗会给自适应波束形成器的在线实现带来困难,因此本文又提出了一种基于变量加载的降维波束形成算法。与现有变量加载波束形成算法相比,该算法不仅同时兼顾了波束形成器的稳健性和自适应性,还大大降低了算法的计算复杂度。4.本文对通用信号模型下的稳健自适应波束形成算法进行了研究,提出了一种适合通用信号模型的低复杂度稳健自适应波束形成算法。所提波束形成算法不仅充分考虑了期望信号协方差矩阵和阵列协方差矩阵的不确定性,还添加了它们的半正定约束。这样一来,所提波束形成算法对期望信号协方差矩阵失配和阵列协方差矩阵失配都具有较强的稳健性,并且避免了由期望信号最差情况协方差矩阵的负定导致波束形成器过于保守的问题。另外,所提波束形成算法基于最差性能优化准则推导出了一个闭式解,因而具有实现简单,运算量小的优点。