在传统的行星际探测任务设计中，通常将主天体以外的引力作用考虑为摄动力，在探测器的转移过程中这些力往往起到阻挠的作用。近年来，考虑多个天体作用的低能量转移技术得到了迅速发展和广泛关注。低能量转移轨道指多体系统中引力综合作用下存在的一类转移能量低于传统转移方式的轨道。利用低能量转移轨道可以有效降低探测器的燃料消耗，提高探测器的有效载荷。与此同时，多体系统动力学环境复杂、低能量转移轨道耗时较长的特点也给行星际低能量转移轨道的设计与优化带来了新的难题和挑战。本学位论文结合国家自然科学基金重点项目“深空探测中若干非线性动力学与控制问题”和国家自然科学基金项目“深空复杂序列微推进轨道动力学机理与优化设计方法研究”，针对行星际探测任务的低能量转移轨道设计与优化问题进行了深入的研究。主要研究内容包括以下几个方面：研究了低能量转移轨道的存在范围问题。基于三体动力学的特点，给出了直接借用流形和结合行星借力两种低能量转移方式的速度增量估计方法，并分析了低能量转移轨道的存在范围。首先，基于三体轨道拼接方法给出两种低能量转移轨道的速度增量估计方法，并分析比较了二体直接转移、二体借力转移、直接借用流形转移和结合行星借力的低能量转移等四种方式。然后，提出了环绕轨道出发的低能量轨道初始设计方法和优化方法，初始方法采用了三体拼接技术及庞加莱映射方法，可以快速的得到转移轨道的重要参数；优化方法则在四体模型下将转移轨道设计问题转换为一个多参数优化问题，可以通过序列二次优化进行快速求解。研究了结合行星借力的低能量转移轨道设计问题。分析了周期轨道作为行星际转移中转站的适用性问题，并给出了周期轨道间行星际低能量转移轨道设计方法。首先，分析了L1或L2周期轨道出发的行星际转移所需速度增量，从而明确了哪边的周期轨道更适合向内行星或外行星进行转移。然后，基于转移轨道的动力学特点，采用模型拼接方法给出了一种快速的初始设计方法。初始设计方法中，通过引入近拱点庞加莱映射得到了不变流形的近拱点全局分布，并利用双曲线逼近完成了近拱点与行星际转移轨道间的拼接，从而在保证转移轨道全局最优性的同时可以完成轨道速度增量的快速计算。在此基础上，基于多重打靶法给出了星历模型下的分步轨道优化方法。该优化方法将轨道分为数段分别进行优化，针对非线性较强的流形段采用多重打靶法进行优化，针对跨模型的近拱点之间轨道转移采用前后向积分的方法将末端约束转换至敏感性较弱的深空中，有效提高了优化问题的收敛性。研究了引入扰动流形的行星际低能量转移轨道设计问题。首先，分析了稳定系数较低的扰动流形，从衍化的构型以及飞行时间两方面进行了扰动流形与不变流形之间的对比与分析。然后，给出了借用扰动流形的快速低能量转移轨道初始设计方法。在初始设计方法中，通过多模型拼接技术分步求解轨道的关键参数，可对天体星历约束下的转移轨道进行大范围全局快速搜索，为探测任务设计提供可行的快速低能量转移方案初始解集。最后，为解决扰动流形中时间与燃料消耗间的矛盾问题，构建了低能量转移轨道的多目标优化模型。在多目标优化中，采用样条插值的方法对扰动流形的近拱点进行快速计算，避免了目标函数计算过程中的积分过程，有效提高了优化效率，可以快速得到平衡转移时间与燃料消耗的解集。在上述研究成果基础上，对低能量载人小行星探测轨道进行了详细的分析与计算。首先，根据载人小行星探测的特点对任务约束进行了详尽的分析，并提出了工程可实施性和科学价值兼顾目标小行星的筛选策略。然后，提出并分析对比了多种载人小行星探测方案，确定了适合载人小行星探测任务的低能量转移方案。在此基础上，分析了低能量探测方案中货运飞船的停泊轨道选择问题。最后，针对载人小行星低能量转移轨道进行了详细的计算与分析，验证了本文所提转移方案的实用性以及轨道设计方法的有效性。