20世纪60年代开始,美国和前苏联展开了以月球探测为中心的空间竞赛。自1958年至1976年期间,美国和前苏联共发射83颗月球探测器,进行了载人和不载人的登月任务,月球探测取得了划时代的成就。20世纪80年代以来,世界上空间探测技术和月球科学研究达到了新的阶段,美国分别成功发射了‘"Clementine"和"Lunar Prospector"月球探测器对月进行高精度测量。进入21世纪,世界主要航天大国或组织纷纷开展了月球探测任务。欧洲空间局(ESA)、日本空间局(JAXA)印度空间研究组织(ISRO)都发射了其首颗月球探测器(SMART-1, Selene-1, Chandrayaan-1)。美国航空航天局(NASA)也发射了三颗月球探测器(LRO, LCROSS, GRAIL).与此同时,我国相继发射了“嫦娥一号”、“嫦娥二号”和“嫦娥三号”月球探测器,顺利完成了我国探月工程“绕”、“落”两个阶段的任务。在上述这些月球探测中,探测器的精确轨道是探测任务能否顺利成功的关键。通常月球卫星的测轨定轨是由地面测控站(如深空探测网DSN)负责,我国的“嫦娥一号”就是利用USB测距测速和VLBI测角两种技术手段,共同完成了我国第一颗探月卫星的测控工作。然而,月球距地球约38万公里,这一较远的距离给测控系统的数据传输带来了巨大的挑战,与日俱增的卫星数目也增加了地面测站的负荷。另外,月球的公转周期与自转周期相同,因此月球几乎总以一面朝向地球,当月球卫星运行到月球背面时,会被月球遮挡,导致地面测站对月球卫星的观测不连续,使得月球卫星的导航定位受到影响。针对上述月球卫星定轨问题,美国戈达德空间飞行中心的Beckman和科罗拉多大学的部分研究人员提出了使用星间测距技术实现月球卫星自主定轨的方案(Linked, Autonomous, Interplanetary Satellite Orbit Navigation,简称LiAISON),国内也有部分学者进行了相关研究(例如解放军信息工程大学的杜兰教授课题组)。这些工作的主要思想是利用地—月系圆型限制性三体问题的共线平动点(collinear libration point,文中简记为CLP),通过月球卫星与定点在共线平动点附近的探测器之间的星间链路数据,来达到同时定出月球卫星与共线平动点探测器的轨道的目的。由于定轨过程理论上并不依赖地面站的支持,因此是真正意义上的自主定轨。本硕士论文在之前已有工作的基础上,进一步对月球卫星与共线平动点探测器的自主定轨问题开展了系统的研究,并将该研究由CLP轨道推广到另一类特殊轨道——绕月大幅值逆行轨道(distant retrograde orbit,文中简记为DRO)。本文的研究工作首先在圆型限制性三体问题中开展,然后推广到实际力模型。研究表明：(1)CLP(或DRO)探测器与月球卫星的自主定轨在理论上是可行的。利用较短的观测弧长(2～5天)可使月球卫星的定轨精度达到观测量的精度,利用较长的观测弧长(～10天)可使CLP或DRO探测器的定轨精度达到观测量的精度；(2)对于CLP探测器而言,在定轨中建议使用z方向振幅较大的halo轨道作为任务轨道。这是因为z方向振幅较大的halo轨道有更好的稳定性,更好的可见性(在月球和月球卫星之间)和更好的定轨精度；(3)对于DRO探测器而言,在定轨中建议使用x方向振幅适中(-45000kmm)的绕月DRO轨道作为任务轨道。通过在DRO轨道中增加z方向振幅分量可以改善月球卫星和探测器之间的观测几何,从而可以进一步改善月球卫星和探测器的自主定轨精度；(4)短弧定轨时,通过增加一颗或多颗CLP(或DRO)探测器,可以改善月球卫星和探测器的观测几何和定轨精度：(5)相比CLP轨道而言,DRO轨道的稳定性更好,因此在同样的误差条件下,维持DRO轨道所需的轨控频率会较小。就单纯的轨道控制而言,DRO轨道较CLP轨道有一定优势。本文在研究月球卫星自主定轨的基础上,也将这一自主定轨思想推广到地球GEO/IGSO卫星,研究表明利用hal探测器与GEO/IGSO卫星的星间测距数据,同样能够实现GEO/IGSO卫星的自主定轨。