随着传感器技术的进步以及形状建模理论的完善,扩展目标跟踪技术应运而生。因其克服了点目标跟踪技术无法提供目标形状信息的缺陷,备受学者关注并成为研究热点。鉴于随机集滤波理论在滤波精度以及建模目标方面的优势,将扩展目标形状建模理论与随机集滤波技术相融合,可以最大程度的改善目标跟踪的效果。本文以扩展目标泊松多伯努利混合(PMBM)滤波器为基础,针对复杂环境下的扩展目标跟踪方法展开了相关研究。具体研究内容如下:1.针对现有的PMBM扩展目标跟踪算法在杂波环境下对椭圆形目标的扩展形估计精度较低的问题,提出了基于图像矩椭圆随机超曲面的PMBM扩展目标跟踪算法。该算法综合了图像矩优秀的数学特性以及椭圆随机超曲面建模目标范围的长处,使得对椭圆形目标的估计更加精准。进一步地,为了对非圆椭形目标的扩展形进行有效估计,提出了基于高斯过程回归的PMBM扩展目标跟踪算法。该算法采取了分离式估计策略,利用PMBM扩展目标跟踪算法对目标的质心状态进行估计,同时目标的扩展形由高斯过程回归技术实时推断给出。仿真结果验证了所提两种算法在估计扩展形方面的优势。2.针对检测概率和杂波等背景模型参数事先难以准确获取的问题,提出了可以估计检测概率和杂波的PMBM扩展目标跟踪算法。该算法首先利用有限混合概率模型表示杂波的空间分布,贝塔分布建模检测概率的统计特性,然后通过EM算法或者吉布斯采样算法完成对混合概率模型参数的求解,最后将获得的杂波参数带入到滤波器中实现滤波递归。仿真实验表明:针对均匀或者非均匀杂波场景,所提算法均能对目标实现有效跟踪。3.针对量测噪声协方差无法准确获知而导致扩展目标跟踪算法性能下降的问题,分别提出了基于逆伽玛分布的PMBM扩展目标跟踪算法以及基于逆威舍特分布的PMBM扩展目标跟踪算法。该算法将量测噪声协方差定义为一个状态变量,并将其添加至扩展目标状态列表中构成联合状态变量,然后利用变分贝叶斯方法对构成的联合概率密度函数进行近似,得到的逆伽玛分布和逆威沙特分布均能有效的表征量测噪声的统计特性。仿真结果验证了所提两种算法在未知量测噪声协方差下跟踪多扩展目标的有效性和稳定性。