微弱目标的检测和跟踪是目标跟踪中的研究热点。传统的雷达目标跟踪是采用较高的检测阈值来维持航迹,由于雷达与目标之间存在相对运动,目标的雷达横截面（Radar Cross Section,RCS）在某一段时间内会随着视角的变化而起伏,目标的回波幅值可能不会超过雷达检测阈值,这会导致目标信息的丢失。为解决上述问题,方法之一是采用无需阈值处理的检测前跟踪（Track-Before-Detect,TBD）算法,该算法根据空间中目标的连续性和连续几帧目标回波数据时间上的关联性,对多帧数据联合处理,并通过多帧能量积累实现目标检测和跟踪。值得注意的是,雷达系统下的大多数目标跟踪在处理雷达量测数据时往往只考虑目标的幅度信息,丢弃相位信息。相位信息的丢失会导致滤波器灵敏度的下降。本文基于随机有限集（Random Finite Set,RFS）理论,在考虑相位信息的基础上研究了多起伏微弱目标的检测和跟踪,主要结构安排如下:1.介绍了随机有限集框架下的多目标跟踪问题,对几类RFS进行了简单的概述,同时引入三类幅度起伏Swerling 0,1,3模型下的两类似然比函数。2.针对雷达微弱起伏目标的检测和跟踪问题,研究了Swerling 0,1,3三类起伏目标模型,提出了概率假设密度（Probability Hypothesis Density,PHD）滤波下幅度起伏的雷达微弱目标TBD（PHD-TBD）滤波器。该算法建立了PHD-TBD滤波器下复似然比（Complex Likelihood Ratio,CLR）和幅度似然比（Amplitude Likelihood Ratio,ALR）两种跟踪模型,其中CLR方法弥补了ALR在计算过程中只考虑量测的幅度信息,而忽略相位信息的缺陷,从而更好的利用了目标原始信息。同时,为解决新生目标状态先验分布信息未知条件下的目标新生问题,提出一种基于量测似然比的自适应目标新生算法。仿真实验结果表明,在目标幅度起伏的情况下,CLR和ALR相比,前者在目标位置和个数的估计性能上优于后者,且计算效率更高。在低信噪比（Signal-to-Noise Ratio,SNR）下,CLR仍然可以有效地检测并跟踪未知数量的微弱目标。3.研究了线性相控阵天线有源单脉冲雷达的基于多伯努利（Multi-Bernoulli,MB）滤波的TBD（MB-TBD）滤波器下目标幅度起伏问题。MB-TBD滤波器通常考虑目标幅度信息,忽略了雷达量测值是复值的事实。提出利用相位信息来提高目标与噪声的分辨能力。更准确地说,使用CLR比代替ALR。其次,传统的MB-TBD滤波器不能解决多起伏目标运动时强弱幅度目标共存的问题。针对这一缺陷,提出了一种基于联合连续目标抵消和量测似然比驱动的自适应新生分布。此外,为了降低计算复杂度,在MB-TBD更新后,对相同目标的伯努利分量进行合并。最后,利用序列蒙特卡罗（Sequential Monte Carlo,SMC）技术实现了该算法。仿真结果表明,在复杂场景下,改进算法的性能优于传统算法,具有良好的应用前景。4.针对雷达系统下多机动起伏微弱目标的检测与跟踪问题,提出一种基于交互式多模型（Interactive Multi-Model,IMM）MB滤波的检测前跟踪算法（IMM-MB-TBD）。从考虑复杂度和跟踪性能两个方面来说,IMM方法可以有效解决机动目标的检测和跟踪问题。与此同时,TBD算法通常利用ALR来匹配目标可能的轨迹,然而,这种方法只考虑幅度信息而忽略相位信息会导致滤波器性能的下降。在IMM-MB-TBD中使用CLR代替ALR,保留了相位的空间相干性,实现了Swerling 0,1,3幅度起伏机动多目标的检测与跟踪。仿真结果表明,在低SNR下,所提出的IMM-MB-TBD算法对目标状态和数目的估计性能更好。5.研究了线性相控阵天线有源单脉冲雷达系统中Swerling 1和Swerling 3下两类多起伏目标的检测和跟踪问题,提出一种新型基于标签多伯努利滤波的TBD算法。首先,为提高目标与噪声的分辨能力,将基于相位信息的CLR函数引入标签多伯努利滤波的检测前跟踪算法;其次,提出一种新型自适应新生标签动态分组的方法解决强弱幅度目标共存以及目标新生先验信息未知的问题;最后,针对SNR未知情况下似然比函数失效的问题,推导出一种估计似然函数的方法。仿真实验验证了所提方法可以很好的解决未知时变多起伏目标的检测和跟踪问题,且对于SNR未知的场景,所提方法的检测和跟踪性能与SNR已知情况下的性能接近。