随着传感器技术的飞速发展，目标跟踪技术的应用和需求也快速扩展。特别是在军事方面，空间目标监视与预警、反导防御、精确制导与打击、低空突防等应用对目标跟踪技术提出了新的需求。传统的多目标跟踪方法受制于数据关联算法，在目标个数未知、杂波密集以及存在目标漏检等复杂的多目标跟踪环境下通常会引发组合爆炸或组合优化的NP-hard难题。近年来发展的基于随机有限集（Random Finite Set, RFS）的多源多目标信息融合理论为多传感器多目标跟踪问题提供了一种科学、统一和纯贝叶斯的方法。这种方法能够避免数据关联而直接估计目标的个数和各目标的状态，是贝叶斯意义上的最优或准最优多目标跟踪方法，并且在处理复杂多目标跟踪问题时计算复杂度通常要小于传统算法，具有非常广阔的应用前景。因此，本文从单传感器和多传感器目标跟踪应用两个方面，对基于RFS的多目标跟踪算法及其应用展开深入地分析和研究。论文主要工作如下：第二章简要介绍了基于RFS的多目标跟踪理论基础，为本文后续章节的算法分析和研究做好铺垫。首先给出RFS的定义、多目标贝叶斯滤波器的集合形式及集合微积分等相关的背景知识和数学工具定义；然后介绍了概率假设密度（Probability Hypthesis Density, PHD）和势概率假设密度（Cardinalized ProbabilityHypothesis Density, CPHD）滤波器，并分别给出两种滤波器在单传感器和多传感器多目标应用条件下的基本形式，最后，分析了几种多目标跟踪性能评价指标。第三章针对光学传感器像平面多目标跟踪问题分别提出引入信号幅度信息的PHD（Amplitude Information PHD，AI-PHD）和CPHD（Amplitude InformationCPHD，AI-CPHD）多目标跟踪算法。首先分析了光学传感器的成像特点，分别对来源于目标和杂波的量测信号建立幅度似然模型；然后，将所建立的幅度似然模型引入到标准PHD和CPHD滤波器的递推公式中，提出AI-PHD和AI-CPHD滤波器；最后，给出了两个滤波器的高斯混合（Gaussian Mixture, GM）实现。仿真结果表明，所提算法能够有效进行光学传感器像平面多目标轨迹起始和持续跟踪，具有相比标准PHD和CPHD滤波算法更优的多目标跟踪性能以及在密集杂波环境下更高的计算效率。第四章深入研究了基于线性复杂度CPHD（Linear Complexity CPHD,LC-CPHD）滤波器的多目标跟踪算法。首先，针对标准LC-CPHD滤波推导过程涉及复杂的数学工具和较多背景知识而难以直观理解的问题，首次从物理原理上对LC-CPHD滤波器进行推导；然后，在此基础上给出了LC-CPHD滤波器的GM算法实现；最后，基于GM-LC-CPHD滤波器提出一种多目标跟踪算法，分别针对GM-LC-CPHD滤波器的多目标状态输出没有目标身份信息因而无法形成连续轨迹，以及滤波器没有分裂目标模型因而对分裂目标跟踪性能不够理想的问题，提出相应的解决方法。仿真试验验证了所提算法有效性以及相比已有算法的性能优势。第五章针对杂波环境下的多传感器目标检测和跟踪问题提出一种基于RFS的最优贝叶斯多传感器单目标跟踪算法。首先，通过建立目标运动和多传感器量测的RFS模型，将多传感器单目标检测与跟踪建模为目标状态集的最优贝叶斯估计问题，并在此基础上基于有限集统计学（Finite Set Statistics,FISST）理论严格推导了求解该最优估计的递推公式。针对多传感器条件下该递推公式通常不存在闭合解的问题，研究了一种基于SMC的实现算法。仿真试验验证了算法在线性和非线性场景下相比传统单目标跟踪算法的性能优势。第六章研究了基于乘积多传感器CPHD（Product Multisensor CPHD,PM-CPHD）滤波器的多目标跟踪算法。首先，采用SMC技术给出了PM-CPHD滤波算法实现；然后，在此基础上针对算法在密集杂波环境下实时性较差的问题，借鉴传统目标跟踪算法中的加窗技术提出一种基于粒子聚类的自适应加窗算法，提高了SMC-PM-CPHD滤波算法的计算效率；最后，针对SMC实现算法固有的多目标状态估计难题，提出一种量测驱动的多目标状态估计算法，提高了滤波算法的多目标状态估计性能。仿真试验验证了算法的有效性以及相比已有算法的性能优势。