在惯性导航系统中，由于载体运动无法预知、惯性器件测量精度变化等因素的影响，引起导航系统误差模型存在结构不确定，同时由于随机噪声的统计特性难以精确获知等问题，使得标准的卡尔曼滤波算法无法解决这类系统的状态估计问题。采用自适应卡尔曼滤波算法可以解决未知噪声统计特性参数的在线估计问题，但其稳定性分析十分困难，理论上尚未完全解决。论文针对惯性导航系统中线性模型存在结构不确定性、噪声统计特性未知条件下的滤波估计问题开展研究，主要创新点如下：(1)针对模型存在结构不确定的滤波估计问题，引入有限模型自适应控制思想，建立了有限模型卡尔曼滤波算法框架。提出了一种基于极小化矢量距离准则的有限模型卡尔曼滤波算法，通过二阶多项式函数拟合系统量测信息在特定时间窗内的动态过程，构建了系统模型切换目标函数，提高了算法的鲁棒性。(2)针对导航系统中模型存在过程(或观测)噪声统计特性未知时的状态估计问题，提出了利用量测序列来进行未知参数在线辨识的方法，构建了存在未知过程(或观测)噪声协方差矩阵的卡尔曼滤波算法。以数理统计理论和代数黎卡提方程为分析工具，证明了所提出算法的噪声协方差矩阵估计收敛于真值，且状态估计与标准的卡尔曼滤波算法的收敛性一致。(3)提出采用二阶随机游走模型描述未知系统动态过程，针对该模型中存在噪声统计特性未知时的滤波估计问题，提出噪声协方差矩阵未知的卡尔曼滤波算法。证明了所提出算法的噪声协方差矩阵估计收敛于真实值，且状态估计与标准卡尔曼滤波算法的收敛性一致。(4)利用提出的有限模型卡尔曼滤波算法和噪声协方差矩阵未知的卡尔曼滤波算法，解决了惯性导航系统实际应用中由于环境扰动导致惯性器件漂移变大等问题，有效抑制了随机误差对测量精度的影响，提高了输出信号的平稳性和可靠性。利用提出的观测噪声协方差矩阵未知的卡尔曼滤波算法，解决了惯导系统初始对准过程中观测噪声协方差矩阵未知时的误差状态估计问题，降低了滤波算法对观测信息随机误差统计特性的要求，提高了算法的鲁棒性和实用性。