在深空探测任务中，由于探测目标距离地球遥远，探测器通常需要消耗巨大的能量才能实现向目标轨道的转移，传统的化学推进系统已显现出其不足。近几年来，以太阳能电推进为代表的高效推进系统得到了迅速发展和广泛关注。小推力推进系统可以有效提高探测器的有效载荷，增加探测任务的科学回报。与此同时，其推力小、工作时间长的特点也给深空探测转移轨道的设计与优化带来了新的难题和挑战。　　本学位论文结合863计划项目“深空探测自主技术与仿真演示系统”、“星际高速公路的低能量转移轨道设计技术研究”和国家自然科学基金资助项目“深空探测转移轨道机理与优化方法研究”，针对深空探测任务的小推力转移轨道设计与优化问题进行了深入的研究。主要研究内容包括以下几个方面：　　研究了环绕行星小推力转移轨道的设计问题。将最优 Lyapunov反馈控制设计方法扩展到太阳帆飞行器轨道的设计问题。在分析太阳帆加速度所受约束特点基础上，推导出太阳帆在最优 Lyapunov反馈意义下的实际指向，然后，通过参数优化方法对 Lyapunov权重进行调整以获得时间最省转移轨道。同时，提出一种基于最优加权组合控制律的轨道设计方法。该方法结合改进春分点轨道根数模型，推导出了使各轨道根数变化最快的局部最优控制律，通过最优推力分配和目标偏差两个策略对各控制律进行加权组合，将轨道设计问题转化为简单的权重调整寻优问题。在此基础上，通过构建推进器广义开关函数，将该方法扩展到燃料最省轨道设计问题。　　研究了结合借力飞行技术的行星际小推力转移轨道设计问题。改进了基于正弦指数曲线逼近的轨道设计方法。通过提前引入借力和目标星体星历信息，构建了正弦指数曲线描述下的小推力轨道两点边值问题并加以解决，有效克服了传统方法轨道交点复杂难解、存在过多冗余计算的问题。在此基础上，结合正弦指数曲线和轨道动力学特性，缩减了设计参数的搜索域，进一步提高了该方法的设计效率。同时，还提出一种基于参考轨道的混合设计方法。该方法采用参考轨道法求解单推力弧段两点边值问题，避免了正弦指数方法推力方向固定的假设，通过有推力借力和气动辅助借力策略来实现借力前后轨道的拼接，从而提高了搜索到可行轨道的可能性。　　研究了小推力转移轨道优化问题。结合笛卡尔坐标系模型的双积分特性，提出一种改进型直接配点优化算法。该方法在每一时间段内，通过五阶多项式对飞行器位置曲线进行逼近，利用四阶 Gauss-Labatto积分公式和动力学的双积分特性，将单轴动力学方程离散化为在插值节点处的两个静态约束，从而在不增加约束个数的条件下，提高了传统标准配点法的求解精度。同时，针对长推力弧段转移轨道优化问题，提出一种基于微分进化的全局优化算法。该方法通过共轭状态对控制量进行参数化，采用微分进化算法强大的全局搜索能力求解参数优化问题，在此基础上，通过分析算法的约束处理机制和收敛特性，给出了相应的改进策略，进一步提高了优化算法的求解精度和收敛效率。　　在上述研究成果基础上，对小推力火星探测任务的转移方案进行了详细的计算与分析。首先，根据当前小推力推进器的发展水平，对小推力火星转移方案进行了论证，并给出了四种潜在的转移轨道方案。然后，分别对四种转移方案进行了全过程的轨道设计与优化，给出了地球逃逸、日心转移和火星捕获轨道的设计方法及不同轨道段之间的拼接策略。最后，从转移时间、有效载荷及轨道特性等方面对不同转移方案进行了比较分析，验证了本文所提各种轨道设计与优化方法的有效性。