航天器姿态和轨道运动的动力学建模与控制方法是航天任务成功与否的关键,随着近年来交会对接、编队飞行等新型航天任务的出现,传统的将姿态运动与轨道运动分开建模、独立控制的处理模式由于无法充分考虑姿轨运动间的相互影响,已不能很好地满足任务需求。为此,本论文以突破航天器姿态和轨道分开建模、独立控制的传统处理方式,探索航天器姿轨一体化相对运动的建模和控制的新方法为研究目的展开研究,主要内容包括:针对航天器姿轨一体化动力学建模和跟踪控制问题,选择Lie群SE(3)上指数坐标这一数学工具,以该指数坐标描述航天器姿态和位置跟踪误差,考虑模型不确定性以及外部干扰等因素影响,建立了航天器姿轨一体化相对耦合动力学模型。然后基于建立的模型,设计了快速终端滑模面,提出了一般的姿轨一体化滑模控制器和自适应滑模控制器,以保证航天器完成对期望的姿轨状态的跟踪,其中自适应项可以替代传统滑模控制中的符号函数项,有效降低了系统抖振。采用Lyapunov方法严格证明了两种控制算法均能保证闭环系统的渐近稳定性。最后,通过数值仿真与结果分析验证了所提出的两种控制算法的有效性。在考虑执行机构动力学特性(执行机构安装方案、输出饱和、输出偏差和安装偏差)情况下,研究了航天器姿轨一体化高精度跟踪控制问题。首先,以推力器作为执行机构设计了执行机构全驱动安装方案,在考虑上述偏差影响下,对姿轨一体化相对动力学模型进行了修正。然后,采用基于高阶滑模控制理论的扩展状态观测器在有限时间内完成对系统所受总干扰的观测,然后基于观测到的干扰信息设计了姿轨一体化自适应事件驱动滑模控制器,可以在保证航天器完成对期望轨迹的跟踪的前提下,有效地降低控制信号更新、传输对航天器总线通信资源的占用。通过Lyapunov方法证明了所设计的扩展状态观测器和自适应事件驱动滑模控制器的稳定性,并通过数值仿真分析证明了观测器和控制器的有效性。针对航天器多脉冲轨道转移的姿轨联合控制问题,首先基于改进的粒子群算法,并用Lambert算法处理终端约束条件,得到了一条多脉冲异面非圆轨道转移的燃料最优轨迹。该优化轨迹对应着推力器脉冲作用时间点和脉冲作用后的航天器速度变化量,需要通过姿态控制调整安装有推力器的航天器本体轴在脉冲作用点处指向速度增量方向,完成推力器点火。通过速度增量的单位矢量方向构造了目标姿态,并在SO(3)上通过构造姿态误差函数设计了有限时间滑模控制器,完成对目标姿态的跟踪。最后,通过数值仿真验证了,与传统的粒子群优化算法相比,改进后的粒子群优化算法可以生成燃料消耗更低的轨道转移优化轨迹。此外,在仿真中还说明了设计的姿态控制器可以在规定时间内以高精度将推力器指向目标点火方向。针对编队航天器姿轨一体化分布式协同控制问题,在通信拓扑结构时变情况下,提出了一种姿轨一体化自适应有限时间滑模控制器。首先,在虚拟主航天器的LVLH系下建立了相对轨道动力学方程,并用修正罗德里格参数建立了相对姿态动力学方程,得到Euler-Lagrange形式的编队航天器姿轨一体化相对动力学模型。基于建立的模型,提出了一种鲁棒自适应有限时间快速终端滑模控制器,在模型不确定性以及外界干扰存在的情况下,保证各编队成员完成相对于虚拟主航天器的目标状态的跟踪。然后,利用人工势函数法设计避免碰撞策略,完成对控制器的修改,保证编队机动过程中各成员间不发生碰撞。利用Lyapunov理论证明了无论是否将避免碰撞策略考虑进所设计的控制器中,闭环系统均是有限时间稳定的。最后,通过数值仿真验证了所设计的控制算法的有效性。