天基预警雷达的一项重要任务是实现地面/空中动目标指示(GMTI/AMTI),但考虑到其探测覆盖范围广阔,非均匀杂波干扰严重,如何提高杂波抑制性能进而实现动目标指示成为天基预警雷达信号处理必须要面对和研究的关键技术之一。由于天基雷达相对地面运行速度高、雷达波束覆盖范围大,地杂波多普勒频率高,频谱扩展严重,杂波非均匀现象严重,因此,相比机载平台而言,天基雷达在杂波抑制和动目标检测方面面临的挑战更加严峻。于是,进一步研究探索适合天基环境的信号处理技术来实现杂波抑制和动目标检测的需求依然旺盛。本文从雷达体制和空时自适应处理(STAP)方法这两方面入手,着重研究了基于相控阵-MIMO雷达体制的STAP技术、基于高阶统计量的STAP技术、基于稀疏恢复的单数据集STAP技术以及基于嵌套阵列和嵌套PRI的STAP技术。本文第一章首先阐述了国内外针对天基预警雷达系统的研制和应用情况,尤其对杂波抑制和动目标检测方面的研究进展进行了重点论述,另外还介绍了相控阵-MIMO联合体制雷达系统的研究概况。第二章详细描述了相控阵-MIMO联合体制雷达模型。在简单介绍MIMO雷达模型的基础上,通过与之对比分析给出了相控阵-MIMO联合体制雷达的信号模型。然后分别从非自适应和自适应波束合成两方面入手,对波束图和信干噪比(SINR)进行了仿真分析,以此说明相控阵-MIMO联合体制雷达同时具备了相控阵雷达独有的相干处理增益优势和MIMO雷达独有的波形分集增益优势,是对这两种雷达系统的有效整合和折中。第三章研究了基于相控阵-MIMO雷达的STAP技术。在与相控阵雷达和MIMO雷达STAP信号模型对比分析的基础上,给出了相控阵-MIMO雷达的STAP信号模型。然后从滤波输出响应、输出SINR和最小可检测速度(MDV)三个方面,对这三种雷达体制下的STAP性能进行了对比分析。最后,提出了一种根据STAP滤波输出SINR最大化原则来实现相控阵-MIMO雷达子阵划分的最佳策略,并给出了具体计算式。第四章以均匀线性阵列(ULA)相控阵雷达为平台,进一步研究了基于高阶统计量的STAP方法(HOS-STAP),提出了一种用信号功率代替信号幅度作为STAP滤波器的输入,以此获得更多有效自由度并实现HOS-STAP处理的方法,记为SP-STAP方法。给出了SP-STAP方法的信号模型,并且针对滤波输出响应、输出SINR、SINR损失、MDV性能以及杂波内部运动(ICM)影响这几方面,对SP-STAP方法和传统STAP方法进行了仿真对比分析。第五章研究了严重非均匀杂波和密集目标环境下的目标检测问题。针对该情况下有效训练样本缺乏的问题,提出了一种基于稀疏恢复(SR)技术的确定性辅助(DA)单数据集(SDS)STAP方法,即DA-SDS-SRSTAP方法。这种方法不使用其他距离单元的训练样本,而只利用待检测距离单元的接收数据进行操作。为了实现DA-SDS-SRSTAP方法中自动识别和选择角度-多普勒功率谱中的杂波分量的目的,提出了一种确定性特征辅助GIP(DA-GIP)算法来实现该目的。本章首先介绍了稀疏恢复技术和空时功率谱的概念,然后详细描述了所提方法的信号模型和算法流程,最后在不同杂波条件下对所提算法进行了仿真验证。第六章研究了基于嵌套阵列和嵌套PRI的STAP方法。提出了嵌套PRI脉冲模型及其差分合成脉冲的概念以及一种基于最优二级嵌套阵列和最优二级嵌套PRI模型的STAP方法,即O2LN-STAP。该方法从差分合成阵列和差分合成脉冲的概念出发,对原始数据的杂波协方差矩阵进行数学变换,从而构造出新的虚拟空时二维数据及其对应的虚拟杂波协方差矩阵,最后在此虚拟数据基础上进行STAP滤波处理。该方法在不增加阵元数和脉冲数的情况下,通过信号处理手段,获得了系统自由度的极大提升,以此进一步改善STAP处理性能。第七章总结全文并展望下一步可能的研究方向。