红外成像探测系统根据红外辐射能量的差异对目标和背景进行有效区分,实现目标检测。该系统隐蔽性高、抗干扰能力强、可夜间工作,具有极高的军事价值。红外小目标检测作为其关键技术之一,一直是预警侦察、防空武器等领域的研究热点。为了满足实际应用对红外小目标检测技术提出准确、实时、鲁棒的要求,针对复杂场景应用,本文开展了对相应的小目标检测方法全面深入地研究。全文主要工作如下:首先,研究了一种基于鲁棒主成分分析（Robust Principal Component Analysis,RPCA）联合方向导数惩罚的弱小目标检测方法。现有的基于RPCA的检测方法只考虑红外图像中的非局部先验信息,利用背景的低秩性和目标的稀疏性进行目标检测,而忽视了目标的显著性特征,导致背景边缘残留在目标图像中。为了解决这一问题,提出了基于方向导数构建的显著性映射,根据弱小目标的旋转对称性和背景边缘的特定方向性,有效区分弱小目标和背景。并将显著性权重引入到1l范数中,克服了1l范数不能很好约束目标稀疏部分的缺陷。实验对比结果表明,该方法能够有效提高目标检测的精度,抑制背景边缘。然后,提出了一种基于拉普拉斯范数约束和红外块组的弱小目标检测方法。针对红外块图像（Infrared Patch-Image,IPI）模型利用一系列块图像实现全局低秩近似的方法不适用于灰度变化大的背景图像这一缺陷,考虑采用基于相似块的模型通过定量度量的方式搜集高度相似的块图像,这样能够很好地获取背景图像中的稀疏边缘信息。同时引入拉普拉斯范数代替核范数用于低秩矩阵逼近,不需要获取先验信息,可以自动捕获固有的秩信息,与真实的秩匹配性更高,有利于低秩矩阵和稀疏矩阵的恢复。实验对比结果表明,该方法对背景图像的估计更加准确,增强了背景抑制能力。最后,探索了一种基于L0平滑和序列组矩阵的小目标检测方法。由于在高度异构的复杂背景中,稀疏的强边缘与小目标都具有稀疏性,单帧红外图像很难提取到与稀疏强边缘相似的空间结构。为了使得稀疏强边缘同样能够满足低秩性,需要利用序列图像连续多帧之间的空间相关性。因此,提出了一种基于矩阵域的序列组模型,能够有效解决异构背景中稀疏强边缘样本量过少的问题,同时利用红外图像序列的空间和时间信息分析并提取小目标的位置信息。另外,采用L0图像平滑的方法对背景图像进行处理有效解决由于序列背景缓慢变化导致的连续帧图像相关性下降的问题,从而使背景序列组图像中的每一列之间仍然能够保持高度的相似性。实验对比结果表明,该方法能够处理高度异构的复杂场景,同时处理多帧红外图像并进行检测与追踪,达到实时检测的效果。