自主导航以其相较于其他导航方式的实时性、可靠性等特性发展为深空探测的重要技术之一,而且其在国外的深空探测系列活动中已经成功验证并逐步开始应用在实际任务中。在我国的深空探测规划中,发展自主导航技术已成为重要研究方向。本文以火星探测为背景,重点研究了深空探测器在火星环绕段的自主导航方法。本文首先建立了所需的时空系统,并给出不同坐标系之间的转换关系,同时计算了太阳和火星天然卫星在火星惯性系下的星历,然后综合考虑火星形状、大气阻力、太阳光压、太阳引力以及火星天然卫星等主要摄动因素的影响,在火星赤道惯性系下建立探测器的轨道动力学模型,并分析了摄动力对探测器轨道的影响。同时与STK仿真模型进行对比,给出了相比于参考模型的误差,验证了所建立动力学模型的精确性。为更真实地模拟探测器的测量数据,具体分析了影响探测器观测火星天然卫星以及火星路标的因素:火星遮挡条件、火星阴影条件以及太阳逆光条件,并给出了造成不可见条件的具体方程,并对不同任务轨道的可观测弧段进行了对比仿真,结果显示对于不同高度的任务轨道,虽然对卫星与路标可见性的主要影响因素各不相同,但最终都可归结为目标、火星以及太阳间的位置关系。在探测器环绕火星飞行段,首先针对导航系统是否可观测的问题,通过分析观测模型对状态量的偏导数方程之间的独立性来判别,并利用观测矩阵的条件数分析了可观测度。对以导航信标视线矢量为观测量的导航系统,利用最小二乘算法对多组测量数据进行批处理,然后利用牛顿迭代计算出探测器在环绕段的轨道要素,同时对利用火星表面上已知位置特征的路标的导航方法进行仿真分析。最后,通过对比仿真分析了轨道高度、采样周期、采样点个数、测量噪声以及导航信标的选取对轨道确定精度的影响,并以初定轨结果作为轨道初值进行轨道预报,分析误差传递情况。