海面监视雷达可以完成对大范围海面的预警、监视和探测,在军事和民用领域均有广泛应用。由于高分辨海杂波的空时非平稳特性,传统目标检测方法面临低检测概率,高虚警的问题,使得海杂波背景下的对海面目标特别是慢速、漂浮小目标的检测成为国内外专家和学者研究的重点与难点。本文在对实测雷达海杂波数据特性分析的基础上,主要研究在高分辨海杂波背景下海面慢速、漂浮小目标的检测问题。研究的问题包括：海杂波分形特性分析与目标检测方法、基于快速凸包学习的三特征联合检测方法、匹配与高分辨海杂波多普勒谱特性的检测方法以及基于块白化海杂波抑制的海杂波时频特性分析与目标检测方法。本文主要研究成果概括如下：1.分析了海杂波幅度时间序列的多尺度分形特性与分形特征的空时变性。在对海杂波扩展自相似建模的基础上,利用多尺度Hurst指数讨论了在三个尺度区间内海杂波时间序列的起伏的主导因素,定性的分析了噪声对序列分形特性的影响；通过对不同时间不同海况条件下采集的实测数据分析发现海杂波的分形特征如Hurst指数随外界条件如海态、雷达照射方向与浪向的夹角的不同而改变。提出了两个基于改进分形特征的海面漂浮小目标检测方法。实测数据表明,由于利用了海杂波序列的多尺度性和空时变性,基于多尺度Hurst指数和基于相对Hurst指数相比基于Hurst指数的方法有更好的检测性能。2.讨论了传统目标检测问题与异常检测中单分类问题的联系,为海面目标检测问题提供了新的解决途径。由于海面目标的复杂性和多样性,通常无法获取所有种类目标回波,因此我们将纯杂波回波看作正常观测,含目标回波看作异常观测,并从回波中提取三个在两种观测模式下具有明显差异的特征,分析了两种模式下特征向量在三维特征空间上的可分性。提出了利用正常观测训练回波样本,通过快速凸包学习算法在特征空间获得检测判决区域的非参数方法,并提出了三特征联合检测方法。与基于海杂波分形特性的目标检测方法相比,该方法可以在短的观测时间获得较好的检测结果。3.在实测海杂波数据基础上,对海杂波多普勒功率谱建模。与地杂波相比,海杂波具有较宽的多普勒带宽。我们在多普勒域将海杂波功率谱分为杂波占优单元、噪声占优单元以及杂波噪声混合单元,并将海杂波多普勒谱建模为一个正随机过程,该随机过程在每个多普勒单元满足具有不同形状参数和尺度参数的K分布模型。考虑到海面漂浮目标在多普勒域的能量扩散现象,提出了匹配于海杂波多普勒谱特性的双重检测方法。实测数据的实验表明当信杂比较高时该检测器具有很好的检测性能。4.高分辨海杂波的非平稳性导致在较长观测时间下,传统杂波白化方法在估计杂波协方差矩阵时无法得到足够的参考单元回波样本,降低了杂波抑制的有效性,进而限制了检测器在长时间积累条件下的目标检测性能。针对这一问题,我们提出了块白化的海杂波抑制方法,将海杂波背景下的检测问题转化为在近似白噪声背景下的检测问题,有效抑制时频平面上交叉项对回波能量累积的影响,在此基础上给出了：(1)基于时频脊引导的Hough变换的目标检测方法。提出的时频脊引导的Hough具有比传统Hough变换更小的计算复杂度,并能较好的积累目标能量,具有较强的实际应用价值；(2)基于改进凸包学习算法的时频双特征检测方法。利用特征分布的先验知识,改进的凸包学习算法可以更高效的获得检测判决区域。针对纯杂波回波和目标所在单元回波在时频平面上的时频脊的差异,给出了两种提取脊能量和脊全变差的方法,并用Bhattacharyya距离定量的评估了两种提取方法提取的两种模式下的特征在特征平面上的可分性。两个特征对于检测海面漂浮目标来说具有较好的互补性,通过实测数据验证,得到的双特征检测器具有很好的检测性能。