传统天波超视距雷达(OTHR)一般基于相控阵双基地体制,发射和接收阵列均采用线阵,雷达理论已基本成熟,工作性能和信号处理方法受到传统体制的制约。本文研究新体制天波超视距雷达,引入两个关键要素:多输入多输出(MIMO)技术和二维发射/接收阵列。MIMO技术可以增加雷达信号个数,多频信号工作可利用电离层传播特性实现对目标进行多径探测,提高检测和估计性能。发射信号之间相互正交,超视距雷达可扩展为分布式多站体制。雷达阵列采用二维布阵,具有俯仰角分辨力,因此信号处理端可进行二维波束形成,分辨和运用多径信号及其内在关系。此外,新体制超视距雷达可采用环境认知的工作方式,设计随环境变化的发射信号或滤波器,使雷达能在复杂干扰情况下稳健工作。本文针对新体制天波超视距雷达的信号处理进行了研究,主要工作和贡献如下:(1)二维阵列超视距雷达实时频点选择方法二维阵列可进行俯仰维波束形成,借助射线追踪技术,对OTHR选频工作有重要意义。传统OTHR在获取返回散射电离图后,无法分辨多径或多模信号,因而不能针对任务区域地面距离选取最优频点。OTHR在具备二维阵列后,可对电离图进行方位和俯仰角二维波束形成,借助电离层模型和射线追踪技术,为雷达选取针对任务区域地面距离具有最大信噪比的频点。(2)干扰和噪声环境下的波形设计超视距雷达所在高频环境复杂且时变,传统方法采用固定波形(如线性调频信号),依靠选取频点来避开干扰,在密集干扰频段可能遇到困难。本文提出基于环境感知的波形设计及工作方案,使OTHR能够在干扰和噪声下进行工作,无需改变信号处理架构。考虑到雷达波形的主旁瓣性能,波形设计引入相似度约束条件。本文推导了约束下最优化输出信干噪比的波形解析解。(3)滤波器设计抑制干扰和噪声考虑到波形设计和更新对OTHR发射硬件要求高,本文还研究了抑制干扰和噪声的滤波器设计,推导了在相似度约束下最优化输出信干噪比的滤波器解析解。比较其他波形和滤波器方案,滤波器设计能有效抑制干扰噪声,输出主旁瓣稳健。并且,OTHR滤波器设计无需训练数据,可直接采用正常接收数据,实用性强。(4)新体制超视距雷达测高理论研究传统超视距雷达对空中目标的高度测量一直是个难题。新体制OTHR从二维阵列和多径的角度考虑该问题。借鉴分布式MIMO普通雷达(非超视距雷达)通过多径对目标进行定位和速度矢量估计,新体制OTHR多径回波可由不同工作频点或电离层分层产生,且二维阵列可分辨路径俯仰角。本文从理论上推导了OTHR对目标高度估计可行的充分条件,并给出了估计方差下限即克拉美-罗界(CRB)。(5)MIMO-OTHR联合估计目标状态和污染频移超视距雷达对海面目标的估计受到电离层相位污染的影响。本文建立了OTHR在采用MIMO技术和二维阵列情况下,受到海杂波和相位污染影响的接收信号模型,其中相位污染建模为未知确定频移。推导了联合估计目标距离和速度及污染频移的最大似然估计方法和克拉美-罗界。(6)MIMO-OTHR多站多径信号联合处理和目标检测利用正交信号,超视距雷达可采用分布式布站体制和多站信号联合处理。本文考虑到分布式小口径阵列MIMO-OTHR的特点,优化多站信号处理架构,在提高信号处理效率的同时保持基本性能。结合信号处理结果在时空频域上的特点,给出了相适应的多站联合目标检测和定位方法。