太阳系边际探测是国际空间科学研究的前沿领域,对太阳系边际的就位探测对于日球层太阳风动力学过程、恒星系起源与演化等重大科学问题的突破具有重大意义。本文针对我国拟开展的太阳系边际探测任务所出的任务目标与任务约束,利用借力飞行(Gravity Assist,GA)、化学推进(Chemical Propulsion)技术和电推进(Electric Propulsion)技术,对太阳系边际探测任务的轨道转移方案进行了优化设计。全文的主要研究成果如下:太阳系边际探测任务计划于2049年前后飞越到距离太阳100AU的太阳系边际处;在黄道面附近,或者沿着银河系中央方位飞向日球层鼻尖方向,或者背离银河系中央方位飞向日球层尾部方向。该计划拟在飞行途中择机对至少两颗大行星、半人马座以及柯伊伯带小天体等目标进行飞越探测。针对这个复杂的多约束、多目标轨道优化设计问题,采用了以木星借力为切入点,对探测器飞越不同目标时的借力时间窗口进行分析的思路。此外,通过将轨道划分为地球至木星段与木星至太阳系边际段,对轨道进行分段优化设计,减少了每段轨道设计时的约束个数,大大降低了设计难度。最后给出满足不同任务约束的优化脉冲轨道方案。对脉冲轨道转化为小推力轨道的转化条件进行了分析。得到了脉冲轨道能否转化为小推力轨迹的经验参数。基于该经验参数,可以对脉冲轨道和小推力轨道之间的转化可行性进行快速评估,高了小推力轨道优化设计的效率。此外,通过分析,得出了初始质量在一定范围内的变化对小推力轨迹速度增量几乎无影响的结论,并基于得到的脉冲轨道的时间节点和状态,利用差分进化算法(Differential Evolution algorithm,DE)优化设计出最省燃料的小推力轨迹。推导了双曲线轨道最小交叉距离(Minimum Orbital Intersection Distance,MOID)的计算公式。针对在标称轨道附近寻找小行星飞越探测目标问题,出了基于MOID计算的小行星探测目标预筛选方法,高了小行星探测目标的搜索效率;最后,基于VEEJN序列和EJ序列小推力轨迹,完成了太阳系边际探测任务中小行星飞越探测轨道的优化设计。