小推力推进是深空探测中的关键技术，这种高效的推进方式得益于它的高比冲。它具有推力幅值小、长时间连续作用的特征，这导致动力学方程不可积，从而使得小推力轨迹设计与脉冲情形完全不同。目前航天工程迫切需要寻找高效可靠的小推力轨迹设计方法。本论文从这一实际需求出发，系统地研究了小推力轨迹优化设计的间接法和伪谱法。论文研究了含有多次引力辅助的小推力轨迹优化设计，以最优控制理论为基础，系统地给出了这类小推力轨迹的间接解法。不同于文献中的形状曲线逼近和参数优化，本文从最优控制的基本原理出发，将引力辅助作为内点约束，通过详细推导得到了该轨迹优化问题的完整最优必要条件。文中将含有多次引力辅助小推力轨迹优化问题转化为多点边值问题并构造出相应的打靶方程，给出了各个打靶变量的初值设定策略，最后用打靶法得到了最优解。与参数优化方法相比，本文方法在计算效率和优化效果上都反映出良好的性能。论文系统地研究了伪谱法在小推力轨迹优化设计中的应用。文中构造了小推力轨迹优化设计的伪谱法格式，验证了该方法与间接法的等效性，并建立了相应的乘子等价映射。文中通过伪谱离散将连续轨迹优化问题转化为非线性规划问题并结合非线性规划求解器求得了能量最优轨迹。论文进一步详细分析了伪谱法求解燃料最优bang-bang控制的困难，进而构造了伪谱-同伦混合方法。该方法首先利用同伦算法将燃料最优转化为能量最优问题，在伪谱法求得能量最优解后再使用同伦算法使能量最优解逐步趋近燃料最优解。伪谱-同伦混合方法综合了伪谱法和同伦方法的优势，在求解bang-bang控制方面比普通伪谱法具有更好的精度和效率，同时也化解了同伦方法的初始化困难。论文构造了含时变内点约束轨迹优化问题的分块伪谱法，建立并证明了相应的乘子等价映射。文中通过分块伪谱离散将轨迹优化问题离散为非线性规划问题并推导了相应的一阶必要条件。文中详细证明了(内点)一阶必要条件与间接法中的(内点)最优必要条件的等价性，从而推广了原有的乘子等价映射。该映射给出了分块伪谱法与多点边值问题之间的联系，它既能估计协态，也能估计与内点约束相关的乘子及内点时刻。因此，这既是对伪谱法理论的补充和完善，也是将伪谱-同伦混合方法拓展至含有时变内点约束轨迹优化问题的理论基础。