深空探测贯穿人类发展史,在科学、技术、政治和文化方面都有重要意义。随着深空探测任务距地球越来越远,燃料成为限制深空探测发展的一个重要因素。于是,人们提出了多种新型的推进方式,其中太阳帆可以提供连续小推力且比冲无限大,被认为是最实际的方法之一。NASA和ESA有多项相关飞行任务正在研制之中。太阳帆航天器的动力学与控制问题是理论研究的重点,对飞行任务的实现具有重要意义。太阳帆航天器不同于传统航天器,轨道和姿态是强耦合的。本文给出了耦合系统在周期轨道上稳定的条件;在轨道不影响姿态的情况下,推导了耦合系统的稳定性与轨道稳定性、姿态稳定性的关系。在只考虑轨道动力学的情况下,分析了太阳帆的被动控制。被动控制要求太阳帆的法线方向与太阳光之间的夹角保持不变,此时太阳帆的轨道总是稳定的且其轨道参数由太阳帆的初始角动量唯一确定。根据被动分析结果和耦合系统稳定的条件,设计了能在日心悬浮轨道和人工拉格朗日点被动稳定飞行的太阳帆结构。太阳帆技术在未来很长时间内无法达到多个任务提出的太阳帆尺寸要求。本文提出了太阳帆航天器编队飞行的概念,研究了几种简单姿态控制律下,各种悬浮轨道附近相对运动的稳定性。定义了一套描述椭圆相对轨道的相对轨道根数,分析了简单控制律下稳定相对轨道的特征,结果表明相对轨道的形状和空间指向都受到限制。为了得到更丰富的相对轨道,同时考虑到相对速度测量困难,研究了仅利用位置反馈进行相对轨道设计的方法。并利用数值算例验证了该设计方法的有效性。拉格朗日点附近编队研究中很重要的一个领域为编队控制。研究结果表明:利用脉冲控制很难实现高精度编队,太阳帆能提供微牛以下的连续小推力可以满足小尺度高精度编队需求。由于太阳光压力的方向受到限制,并非所有编队控制都能利用太阳帆。本文给出了太阳帆控制能力范围内的直线编队和圆形编队,利用数值算例验证了太阳帆实现编队控制的可行性。在小行星牵引任务中,引力拖车方法的优点是不依赖小行星特性、可靠性高,缺点是偏移能力有限。本文将太阳帆控制在小行星附近的悬浮轨道,实现对小行星轨道的偏移;进一步利用引力拖车编队提高偏移能力,研究了悬浮轨道上引力拖车编队的控制策略。最后,比较了普通引力拖车和太阳帆引力拖车的偏移能力。