进入21世纪后，深空探测领域越发受到人类的重视，世界各国纷纷推出了未来深空探测任务的发展战略以及发展规划，力求建立更加完善的空间探测结构体系，并实现一系列科学目标。太阳帆航天器以其无需反作用推进系统完成飞行控制的特点，在深空探测领域具有较高的利用价值，甚至有些空间任务仅能由它实现。由于太阳帆航天器主要依靠太阳光压摄动力完成推进，而太阳光压摄动力与航天器轨道和姿态状态紧密相关，因此轨道控制与优化技术是太阳帆航天器整个系统设计中的一个重要环节。立足于空间任务设计的初始阶段，以太阳帆航天器深空探测轨道转移任务为背景，针对其轨道控制与优化方法开展研究。通过数学方法对转移轨道各个阶段进行求解和分析，讨论轨道控制与优化方法的适用性、稳定性和收敛性等，并对转移轨道各个阶段的衔接条件进行研究，通过对数学方法的改进和整合构造一套能够适用于太阳帆航天器深空探测全程轨道转移的轨道控制与优化方法。本论文的研究内容主要包括以下几个方面：首先，给出了太阳帆航天器深空探测轨道转移过程中所用到的时间系统与坐标系统及其相互转化关系，并对轨道转移的主要运行阶段进行了归纳。对太阳光压推力模型进行了详细的推导，给出了太阳帆航天器转移轨道设计中涉及到的主要特征参数。建立了太阳帆航天器二体轨道动力学模型，给出了轨道动力学模型正则化方法。基于太阳帆航天器深空探测轨道模型对轨道控制问题进行了数学描述，为后续研究奠定了理论基础。然后，针对太阳帆航天器深空探测轨道转移问题，给出了一种基于局部最优解析解的轨道控制方法，该方法以闭环解析解的形式实时给出太阳帆航天器的姿态信息，同时可通过加权反馈控制律对各轨道根数进行联合控制。针对太阳帆航天器行星捕获段转移轨道的特殊要求，提出了一种可对轨道根数进行解耦的分段捕获控制策略，并验证了通过适当改进，上述局部最优解析控制律可适用于太阳帆深空探测转移轨道的各个阶段。另外，还给出了一种基于能量最优的太阳帆行星逃逸轨道控制律，并基于庞特里亚金极大值原理给出了其详细的推导过程。由于上述基于局部最优解析解的太阳帆轨道控制方法未将轨道转移时间等参数作为优化指标，同时采用解析的方法，未对轨道转移的终端状态进行约束，因此所给出的转移轨道仅为局部最优解，且可能由于某轨道转移阶段的终端状态不满足约束而无法完成太阳帆航天器深空探测全程转移轨道设计。针对上述问题，结合解析控制律所得的局部最优解，分别采用基于多父代单峰值正态分布交叉算子的改进遗传算法和基于非支配排序遗传算法的该进行形式的多目标优化算法对星际航行段转移轨道进行了混合优化求解，通过该方法能够得到的星际航行转移轨道解更接近全局最优，且能够对终端约束进行调整，从而适用于解决转移轨道各阶段的衔接问题。之后，以水星探测任务为背景，基于理想太阳帆推力模型给出了水星太阳同步轨道的初步设计方法，并采用非理想太阳帆推力模型对轨道初步设计过程中提出的假设，及形成水星中心太阳同步轨道的条件进行了验证，并对轨道特性进行了分析，证明了通过该方法所得到近极地水星太阳同步椭圆轨道可使航天器自动满足在一个水星公转周期内维持太阳同步所需的轨道进动速率。最后，对上述太阳帆轨道控制与优化设计方法进行改进和整合，以地球-日地L1点-金星及地球-金星-水星任务为例，对太阳帆多任务深空探测轨道进行了全程优化设计与对比分析，同时给出了太阳帆航天器姿态角加速度约束的处理方法，并对太阳帆行星捕获条件及深空探测全程轨道特性进行了研究，通过分析可知，太阳帆推进相比传统化学推进具有明显的优势，尤其是在每个任务都需要环绕探测而不是简单的飞越探测的情况下，太阳帆推进更具有明显的优势。