对雷达天线进行合理地设计和配置，可以获取更多的目标和干扰信息，从而能有效的提高目标探测和干扰抑制能力。本论文主要针对两种典型的多天线配置系统：多输入多输出(Multiple Input Multiple Output, MIMO)雷达系统和旁瓣消隐(Sidelobe Blanking, SLB)系统，分两部分详细研究目标检测理论和算法。第一部分：MIMO雷达目标检测理论和算法MIMO雷达主要利用多发射和多接收天线获取丰富的目标多样性信息，如空间多样性、频率多样性和极化多样性等，从而提高雷达对目标的探测能力，本部分的主要工作和贡献如下：1、针对空时编码MIMO雷达，研究了复合高斯背景下最优/次优检测算法：提出了复合高斯背景下广义的检测算法，并针对典型K分布特例，设计了K分布下的检测器结构；提出了大数据下的渐近检测算法；完成了基于GLRT、Rao和Wald准则的检测器结构设计，指出了GLRT等效于大数据渐近检测器；给出了基于协方差矩阵估计的自适应检测器结构。2、通过利用目标和杂波的极化信息，研究了极化MIMO雷达检测算法：采用极化天线配置，提出空时编码极化MIMO雷达回波信号模型，并针对高斯探测背景，完成了自适应GLRT检测器设计；在复合高斯背景下，针对点目标和距离扩展目标的检测问题，完成了自适应GLRT、Rao和Wald检测器设计。3、针对广义MIMO雷达模型，研究了最优/次优目标检测算法：提出了高斯背景下的GLRT、Rao和Wald检测算法，证明了三种检测算法的一致性；完成了复合高斯背景下GLRT和Rao检测器的设计；分析了共置MIMO雷达天线随机配置下的目标检测、波达方向估计和干扰抑制等性能。第二部分：SLB系统目标检测和干扰抑制理论性能分析SLB系统主要采用主辅双天线配置(主天线为高增益主瓣和低增益旁瓣的天线模式；辅助天线为全向天线模式)，通过提取双接收通道回波信号的差异性，实现对主瓣目标的检测和旁瓣干扰的抑制，本部分的主要工作和贡献如下：1、基于非独立同分布起伏目标模型，分析了非相干接收机检测性能：针对广义Swerling Chi目标起伏模型和白高斯干扰背景，分析了传统非相干接收机（平方律检波+多脉冲积累）在任意相关，可能不同分布的起伏目标的检测性能，并基于幂级数导出了检测概率的数学解析式。2、分析了基于非相干接收机的SLB系统性能：针对高斯白噪声和天线旁瓣干扰，分析了基于非相干接收机的SLB系统性能；基于广义Marcum或Nuttall Q函数，推导了非起伏目标在消隐域和检测域上性能函数的闭合表达式；并推广到任意相关，可能不同分布的目标和/或干扰起伏情况，推导了理论性能表达式。3、设计了一种基于不变(Invariant)接收机的SLB系统结构：针对均匀未知功率谱特性的高斯背景下检测未知幅度的目标信号和抑制旁瓣干扰问题，提出了一种基于不变接收机的SLB系统结构；推导了广义理论性能函数的一般表达式；并针对Kelly检测器，导出了消隐域和检测域上性能函数的解析表达式，证明了提出的SLB系统具有CFAR特性。上述提出的算法全部进行了仿真验证。