随着现代雷达、红外、激光等高分辨率传感器的快速发展,所能获得的目标信息更加丰富,然而传统点目标模型不能有效利用这些目标信息,因此迫切需要更加复杂的扩展目标模型以准确估计目标状态,对目标跟踪算法提出了新的挑战。对于传统的点目标跟踪,通常假设目标每个时刻至多产生一个量测,仅能估计目标的运动状态。对于扩展目标跟踪,由于目标每个时刻会产生多个量测,通过利用这些量测信息,扩展目标跟踪算法除了可以估计目标的运动状态之外,还可以估计目标的扩展、量测率以及类状态等,为后续的分类、识别等处理提供支撑。然而,由于目标跟踪环境和扩展目标本身的复杂性,扩展目标跟踪算法存在多目标跟踪框架计算复杂度高、目标扩展状态复杂形状估计能力不足,以及目标跟踪算法不适用于实际场景等问题,一直是目标跟踪领域的研究难点。近年来,随着随机矩阵和随机有限集(Random Finite Set,RFS)等新理论的出现,给上述问题的解决提供了新的思路。本文以随机矩阵理论为基础,重点研究基于RFS的多扩展目标跟踪框架构建和具有复杂形状的扩展目标扩展状态估计问题。论文的主要研究内容和成果如下:1.研究了多目标多贝努利(Multi-target Multi-Bernoulli,MeMBer)框架势存在的势估计有偏问题。为了得到闭合解,最初的MeMBer滤波框架推导采用了不恰当的近似,导致目标势估计有偏问题。虽然势均衡MeMBer滤波虽然修正了MeMBer滤波的势估计偏差,但代价是需要假设跟踪场景具有高的检测概率。为此,本文提出一种新的MeMBer滤波有偏势估计修正方法,在不增加额外假设的条件下,可实现MeMBer滤波框架的无偏估计。进而将其拓展至扩展目标跟踪场景,提出一种改进的多目标多贝努利扩展目标滤波算法。该算法能很好适应低检测概率跟踪环境,具有计算量小、状态估计精度高等优点。2.研究了多扩展目标联合跟踪与分类算法框架构建问题。扩展目标跟踪算法不仅能提供目标的扩展状态,还可以根据目标扩展状态的大小、结构等形状信息对目标进行分类。然而在提出扩展目标联合跟踪与分类算法之初,为了方便构建算法框架,仅考虑了较为理想的非机动、单目标跟踪问题,未考虑更符合实际跟踪情况的机动、多目标跟踪问题,难以应用于实际跟踪场景。为此,结合RFS理论,本文提出一种概率假设密度扩展目标联合跟踪与分类算法。该算法能准确给出目标数未知且时变的多目标势估计,同时可正确估计每个扩展目标的量测率、运动状态、扩展状态和类状态。3.研究了目标姿态机动情况下的非椭圆扩展目标算法合理描述扩展状态所需子椭圆数目变化的问题。非椭圆扩展目标算法利用多个子椭圆来估计目标的复杂形状,每个子椭圆独立描述非椭圆扩展目标的一部分,在估计复杂形状扩展状态的同时对目标进行分块,算法所使用的子椭圆数目一般设为固定常数。然而,实际应用中,随着目标与传感器之间空间几何关系的不断演变,以及目标在运动过程中做出的自旋、翻滚等动作,使传感器测得的目标形状也不断变化,致使描述目标复杂形状所需的子椭圆数称为变数。为此,本文提出一种子椭圆数目可变的非椭圆扩展目标跟踪算法。该算法通过设计子椭圆之间的合并和分解准则,能较好适应目标姿态的改变,可实时精确地估计非椭圆扩展目标的复杂扩展状态。4.研究了非椭圆扩展目标扩展状态估计易陷入局部最优的问题。在实际应用中,由于目标机动,不仅会引起描述复杂形状所需子椭圆数发生变化,也会出现多个子椭圆不合理地将目标复杂形状分块的情况,导致形状描述不准确,算法易陷入局部最优。此外,随着子椭圆数目的增加,算法的负担过重。为此,本文提出一种高效的非椭圆扩展状态估计算法。该算法通过综合应用量测聚类、邻接矩阵和概率前瞻等简化途径,不仅避免了非椭圆扩展状态估计陷入局部最优的问题,还大大减小了计算复杂度,具有良好的实际应用前景。