航天器在进行大角度姿态机动过程中,姿态控制系统呈强耦合、非线性的特点。在此情况下,为实现最短时间机动控制,将现有的线性最优控制方法直接应用于航天器非线性姿态控制系统中计算量大,控制器设计复杂;同时随着航天器所携带的大型挠性附件的增多,其低阶模态振动对航天器姿态控制造成越来越严重的影响。这些因素对于航天器姿态控制系统的动态性能和控制精度方面产生了很大的挑战。本文针对上述问题进行深入研究,具体内容包括如下几个方面:首先,针对航天器大角度姿态机动的最短时间优化问题,开展航天器近最优滑模姿态控制研究。本文采用了基于张量积模型变换(Tensor product model transformation)的全局线性化方法以实现姿态控制系统的线性化,随后采用LQR最优控制方法设计了航天器近最优姿态机动控制律,有效降低直接应用线性最优控制方法设计姿态控制器的复杂度。利用全局积分滑模控制技术,将经张量积模型变换求取的近最优控制律与全局滑模控制律相结合,得到使系统响应速度快、鲁棒性强、且在线计算量小的航天器姿态机动控制律。仿真结果证明了所设计控制方法的有效性。其次,针对挠性附件振动对航天器姿态运动造成的负面影响,开展了带有挠性附件的刚体航天器振动抑制控制研究。本文利用输入成型器,设计了姿态控制系统的主动振动抑制控制器。另一方面,由于航天器受外部力矩干扰及转动惯量不确定等因素,普通滑模控制很难准确得到切换增益,本文设计了一种基于输入成型的自适应积分滑模姿态机动控制律,并通过Lyapunov稳定性判据,证明了航天器姿态控制系统的稳定性,随后对所设计的控制方法进行了仿真分析。最后,为了验证本文所提出的控制方法的有效性,搭建了单轴气浮台实验平台,并将所提出的姿态控制方法应用于单轴气浮台姿态控制系统中。实验结果表明,所提出的姿态控制律与数值仿真的结果基本一致,能够保证系统具有较高的动态性能和控制精度。