非线性动态系统的状态估计问题在控制、信号处理及信息融合领域引起了广泛的关注,滤波算法是处理状态估计问题的有利手段,因此滤波算法在非线性动态系统中起着重要的作用。非线性动态系统的后验概率密度无法用封闭的概率密度函数（Probability Density Function,PDF）来描述,使得非线性状态估计问题不存在最优的解析解,因此本文采用加权积分的方法求解近似解,从状态估计的数据信息出发,研究以适应非理想环境为前提,以提高非线性状态估计的精度、自适应能力和鲁棒性为目的,对非线性系统的状态估计问题展开研究,基于一种加权积分的无迹变换（Unscented Transformation,UT）方法,提出了一系列改进的状态估计方法,并在目标跟踪及导航系统中验证所提出方法的有效性和优越性。本文的主要工作如下:1.分析了无迹卡尔曼滤波（Unscented Kalman Filter,UKF）的状态估计误差来源。不同的积分规则存在不同的精度,同时存在舍入误差。UT采用PDF近似的方法,在理想条件下精度可达二阶以上。本文首先给出高斯近似滤波框架,在此基础上给出UKF算法流程;其次针对滤波器内在的UT方法只能匹配前二阶矩信息的欠估计情况,提出一种高阶UT采样策略;根据外部环境的影响,包括系统模型的不精确、量测的未知以及噪声对整个系统的影响等非理想的情况下,设计一种残差协方差（Residual Covariance,RC）方法作为评价滤波器的性能指标,并在此基础上通过理论证明非理想条件下的状态估计为有偏估计。2.研究了高阶UT高斯近似状态估计方法。UT方法后验估计精度可达二阶矩以上,为了匹配高阶矩信息,首先提出一种基于高阶Sigma点的采样策略,通过引入自由参数得到高阶UT方法的闭式解,并验证自由参数的选取依据。最后采用非线性模型对其进行仿真分析,并给出结论。3.研究了系统模型不确定条件下的状态估计方法。针对误差分析中的模型不精确以及模型突变的情况下,首先提出一种基于高阶UT框架下的交互式多模型非线性滤波器,该方法采用高阶Sigma点和权值来估计状态随机变量,提高有效模型的概率。其次针对大机动情况下出现的模型突变问题,提出一种自适应的高阶无迹卡尔曼滤波,通过正交性原理推导出自适应因子来修正一步预测协方差,并利用高阶的UT方法构造Sigma点和权值来匹配高阶矩信息。在非线性系统模型不确定和高速运载体大机动导致模型失配的非理想条件下进行测试实验,并证明提出算法的正确性和优越性。4.研究了量测不确定条件下的状态估计方法。针对不可靠的传感器以及未知的噪声统计特性,提出一种具有自适应鲁棒的滤波方法。首先采用一种M估计方法来提高算法的鲁棒性,为了进一步降低协方差在平稳状态下的权重,调整增益矩阵,抑制状态突变的影响,将自适应因子引入到预测协方差矩阵中,提高UKF算法的自适应能力,并采用QR方法和奇异值分解（Singular Value Decomposition,SVD）方法提高算法的鲁棒性;其次采用一种最大熵准则联合高阶UT的方法解决量测模型受干扰和矩信息丢失的问题,通过目标跟踪实例和强非线性动态模型对上述方法进行仿真验证,充分证明了所提出算法的优越性。5.研究了一种带噪声估计器的滤波方法研究。在目标跟踪和组合导航系统中,估计噪声的统计特性一直是一个非常困难的问题。针对这一问题本文提出一种带噪声估计器的自适应UKF,利用变分推理的方法求解非线性函数域中的近似解,此方法可推广到广义高斯近似滤波器中,并应用到目标跟踪和组合导航领域,仿真结果表明所提出的带噪声估计器的自适应滤波算法比现有的滤波算法具有更好的精度和稳定性。