机载相控阵雷达对空、对地探测接收到的回波中含有大量较强的地物杂波,容易湮没回波功率较弱的目标,导致雷达系统的目标探测性能下降。空时自适应处理(STAP)技术对阵列接收的空时两维数据联合滤波,可以对目标信号相干积累同时对杂波进行有效地抑制,对机载雷达的动目标检测,特别是低速目标和小目标检测非常有利。它的杂波抑制性能的优劣与杂波协方差矩阵的估计是否精确密切相关。研究表明,对于非正侧视阵机载雷达,其杂波频谱的分布在距离上具有空变特性,这时若直接利用待检测单元邻近距离单元数据来估计杂波采样协方差矩阵,它的值与待检测单元的真实杂波协方差矩阵之间存在一定的误差,最终我们利用空时自适应处理技术对杂波进行抑制时,处理效果不甚理想。因此对于非正侧视阵机载雷达,想要获得理想的杂波抑制效果,在STAP之前我们还需要对杂波数据进行适当的预处理。要想获得好的目标检测性能,还需要对干扰进行有效地抑制。自适应波束形成可以以保护期望信号为前提实现对干扰和噪声的抑制。最小方差无失真响应(MVDR)波束形成是常用的波束形成算法之一,它是在以阵列输出信干噪比(SINR)最大为准则,并对期望信号进行约束条件下获得的。最终推导得到的权矢量与估计的干扰加噪声协方差矩阵以及期望信号导向矢量有关。通常情况下,理想的干扰加噪声协方差矩阵是无法准确获得的,实际中由多个训练样本估计得到的采样协方差矩阵代替。这时若训练样本中包含期望信号,则MVDR波束形成对阵列响应的不匹配(如视角误差,阵元幅相误差和阵元位置扰动误差等)非常敏感,而且这种敏感性在信噪比(SNR)较高的时候表现尤为明显。针对这些问题,需要提出稳健的自适应波束形成算法。军事和技术的发展,要求雷达不仅要发现和检测目标,还需要知道目标的各项参数,目标角度估计是参数估计的重要部分。最近几十年来人们提出了许多的目标角度估计方法,如多重信号分类(MUSIC),最大似然(ML)等,以及针对其实际应用场景提出的一系列改进算法。然而,如何有效地提高非理想场景下(如小样本,低SNR,阵列流型不匹配等)的目标角度(DOA)估计精度和改善目标分辨能力近年来仍然是该领域的研究热点。本文主要对非平稳环境下STAP的杂波抑制性能提升算法以及非理想环境下的自适应波束形成和目标角度估计方法进行了研究,具体包括以下几个问题:一、研究了机载雷达非正侧视阵构型下距离非平稳杂波的有效抑制问题。对于机载非正侧视阵雷达,杂波谱的距离空变性使得直接利用邻近单元数据估计的杂波协方差矩阵与真实协方差矩阵不匹配,导致空时自适应处理杂波抑制性能下降。传统的基于配准的补偿(RBC)方法通过时域平滑来估计空时谱,继而对杂波的距离空变性进行补偿,时域孔径损失使得杂波谱峰值的估计精度受到限制。针对这一问题,考虑到杂波空时谱的稀疏性,本论文中我们基于迭代自适应算法(IAA)进行单个距离单元的杂波空时谱估计,并结合先验知识重构其杂波协方差矩阵以实现杂波谱配准,提出了一种IAA-RBC算法。一方面该算法不需要平滑,没有孔径损失,估计的杂波谱精度更高;另一方面,它对其他干扰因素,如目标污染等是鲁棒的。在机载非正侧视阵雷达构型下,将其用于STAP之前的预处理可以很好地改善杂波抑制效果。二、研究了小样本和期望信号导向矢量失配条件下的稳健自适应波束形成问题。自适应波束形成对阵列流型的不匹配很敏感,特别是在样本中包含期望信号的情况下。针对其问题,本论文提出了一种联合估计干扰加噪声协方差矩阵和期望信号导向矢量的稳健自适应波束形成算法。该方法首先利用Capon算法粗略地估计目标和干扰方向并结合雷达阵列构型等先验知识构造干扰表示基矩阵;然后再对样本进行最小二乘拟合求解基系数,进而对干扰加噪声协方差矩阵进行重构;最后基于估计的信号角度以及雷达阵列构型等先验知识构造信号表示基矩阵,并利用子空间投影的方法来估计期望信号导向矢量。该方法在小样本情况下可以实现,并对误差稳健,可以克服期望信号导向矢量和干扰加噪声协方差矩阵的失配问题。三、研究了机载相控阵扫描雷达在低SNR条件下的目标DOA估计问题。为了避免波束跨越损失,雷达采用较小波束间隔的相邻波束,此时目标可能会出现在相邻的多个波位中。本论文研究了一种基于联合多波位的最大似然目标DOA估计算法,其充分联合相邻波位回波信息进行目标能量累积,从而提高了目标角度估计精度。四、研究了小样本数和低SNR情况下的目标DOA估计问题。传统MUSIC算法的性能依赖于噪声子空间的估计精度。在小样本数情况下,受到信号与噪声互相关项的影响,阵列协方差矩阵的估计值会偏离其真实值。此外,在低SNR情况下,受噪声的影响,信号子空间和噪声子空间不能很好地分离。这些都会导致由阵列数据协方差矩阵特征分解得到的噪声子空间偏离其真实值,使得MUSIC算法的DOA估计性能下降。本论文提出了一种迭代算法通过修正噪声子空间来提高目标角度估计性能。实验表明基于新的噪声子空间实现MUSIC DOA估计获得的性能超过了传统的MUSIC算法,而且在低样本数和低SNR情况下性能改善尤为明显。五、研究了适用于任意波束的波束域求根MUSIC(Root-MUSIC)的快速实现算法。我们将波束形成后整个带内频谱区域均匀划分为多个频谱区间,在每个频谱区间内利用导向矢量的低秩特性,将它近似表达为关于其对应频率的低阶实多项式,进而波束域Root-MUSIC问题可以转化为多窗实多项式求根问题。该方法在保证算法性能的条件下,大大降低了计算复杂度,便于算法的实时应用。