初始对准过程是捷联惯性导航系统一项关键技术,其精度和运算速度直接决定了捷联惯性导航系统的性能。传统的捷联惯性导航系统通常采用四元数描述来实现姿态计算,基于四元数描述的初始对准方法成为目前最为广泛使用的一种解算方式。虽然四元数描述的姿态计算方法避免了欧拉角表示的奇异值问题,但每个姿态对应于两个不同的四元数矢量,即每个姿态的四元数描述存在非唯一性,这种非唯一性造成四元数描述无法保证载体姿态在姿态空间的闭环属性,从而无法保证其在姿态空间的全局渐近稳定性。另外,四元数运算必须满足单位化的约束条件,从而在捷联惯导计算过程中需要进行归一化处理,这就不可避免的会引入计算误差。本文针对四元数描述存在的问题,从直接估计姿态矩阵的角度入手,用李群描述取代四元数描述,围绕基于李群描述的捷联惯导系统及其初始对准方法进行了一些探索性的研究,主要的研究工作如下:首先,建立了基于李群描述的捷联惯导系统解算过程。从李群的基本原理出发,建立了针对刚体运动的特殊正交群和特殊欧式群的描述,进而建立了基于李群描述的捷联惯性导航算法。以惯导和旋量的根本原理为基础,建立描述坐标系相对运动的李群微分方程,推导了基于李群描述的捷联惯导系统的解算过程。其次,将李群描述的姿态矩阵应用于捷联惯导的初始对准过程,并结合最优姿态估计的初始对准思想,提出了基于李群滤波的捷联惯导系统初始对准方法。基于李群描述的原理,应用惯性系下姿态矩阵分解的方法,将初始对准姿态矩阵的求解问题转化为初始时刻惯性坐标系下李群的估计问题。应用李群姿态描述的性质和惯性导航的基本原理,结合最优姿态最优估计的对准思想和李群姿态描述分解形式,建立了李群结构的初始对准系统模型,选用最小方差估计方法直接估计姿态矩阵,完成捷联惯导的初始对准。最后,针对基于李群描述的初始对准系统中,测量噪声与状态相关的问题,提出两种改进的李群滤波器。利用量测残差和测量噪声方差估计理论,建立了一种自适应李群滤波器,实现姿态角的精确估计;基于解相关性原理,分离出原理想模型中的惯性元件误差进行建模,设计了精准的状态相关噪声协方差矩阵计算方法,重构了更为精确的李群结构误差解析系统模型,从而提出了一种解相关噪声的李群滤波方法实现捷联惯导系统的初始对准。