小天体是太阳系内环绕太阳运动,但体积和质量远小于行星的岩石或金属天体。探测小天体有助于防御近地小天体撞击、了解太阳系和生命的起源、开发太空资源、试验新型技术等研究,具有十分重要的科学价值和现实意义。小天体探测器所需的导航、制导和控制(GNC)技术与传统大天体的探测器有很大区别。由于目标天体距离地球遥远,基于深空网的传统GNC技术难以为小天体探测器提供足够的支持和保障。由于小天体引力场弱且不规则,在其附近的探测器运动呈现出显著的非线性特征,还会受到太阳光压、其他天体引力等外界扰动的影响。此外,小天体的形状、质量、密度、自转状态等物理参数难以通过地面观测精确测定,导致探测器的动力学模型存在较大的不确定性。上述特性对小天体探测器的GNC技术提出了自主性、最优性和鲁棒性的要求。本文在973项目“行星表面精确着陆导航与制导控制问题研究”的支持下,采用直接法和间接法优化算法、神经网络技术、滑模控制算法等研究了探测器软着陆小天体的最优轨迹设计方法、自主最优制导方法、鲁棒轨迹追踪控制方法和探测器主动盘旋Tumbling小天体的轨道、姿态控制方法。论文的主要内容如下:首先,针对探测器软着陆小天体的最优轨迹设计问题,分别采用基于伪谱法与序列二次规划(SQP)的直接法优化算法、基于同伦法与初值猜测技术的间接法优化算法进行了研究。建立了着陆轨迹优化问题的数学描述,采用伪谱法将其离散化为一类参数优化的非线性规划问题(NLP),应用SQP求解该NLP得到了软着陆的能量最优轨迹。所设计的着陆轨迹在满足两端约束的同时,相比传统多项式轨迹燃耗较少。基于极大值原理将着陆轨迹优化问题转化为一个两点边值问题(TPBVP),采用打靶法对该TPBVP进行了求解;针对求解燃料最优轨迹的初值敏感困难,采用同伦法扩大打靶方程的收敛域,并应用初值猜测技术确保同伦法的成功初始化,从而获得了满足两端约束的燃料最优着陆轨迹,进一步节省了燃料。然后,基于神经网络技术对探测器软着陆小天体的自主最优制导方法进行了研究。在间接法优化算法的基础上提出了一类自主最优制导方法:通过采用广义径向基神经网络(GRBFNN)逼近探测器初始状态到最优协态变量初值的映射,避免了打靶方程求解过程带来的巨大计算量,提高了优化算法的实时性,从而实现了最优着陆轨迹的在线设计。通过仿真分析发现,增加GRBFNN的神经元数量和训练样本的规模能有效提高该方法制导下的探测器着陆精度。基于双向极限学习机(B-ELM)改进了所提出的自主最优制导方法,在获得足够着陆精度的同时大幅减少神经网络的训练时间和隐层神经元数量,降低了该方法离线训练和在线应用的计算成本。随后,考虑小天体引力场模型不确定性和外界扰动的影响,基于滑模控制算法对探测器软着陆小天体轨迹追踪的鲁棒控制方法进行了研究。假设控制推力不可调,构建一类滑模双阈值触发器设计了探测器轨迹追踪的常推力控制方法,确保追踪误差一致有界;通过在软着陆不同阶段切换阈值参数,保证了着陆精度,同时有效降低了控制推力的抖振频率。假设控制推力可调,针对传统滑模控制的抖振问题,基于自适应超螺旋算法设计了探测器的轨迹追踪控制方法;该方法保持了精度高、鲁棒性强、结构简单、收敛速度快等优点,不需要扰动和不确定性的任何信息;同时采用连续补偿项保证控制器的鲁棒性,有效抑制了控制信号的抖振。最后,对Tumbling小天体附近探测器主动盘旋的轨道/姿态控制方法进行了研究。考虑小天体自转和引力场模型的不确定性、其他天体引力和太阳光压等外界扰动的影响,建立了探测器的轨道动力学模型;基于自适应反馈线性化提出了探测器轨道的鲁棒LQR控制方法,确保了主动盘旋的稳定性;采用滑模制导来规划过渡过程,避免了初始误差造成的执行器饱和问题。考虑多种不确定性(包括小天体自转、引力场、探测器转动惯量)和外界扰动的影响,基于误差四元数建立了探测器的姿态动力学模型;基于非奇异终端滑模和自适应超螺旋算法提出了探测器姿态的连续有限时间控制方法;该方法可保证探测器盘旋姿态的有限时间稳定性,无需不确定性和外界扰动的任何信息,非奇异且无抖振,与传统滑模控制方法相比收敛速度更快。