随着航天任务的日益多样化、复杂化,自主在轨服务凭借其成本低、效率高、灵活性强、隐蔽性好等优势成为未来空间技术发展的必然趋势。空间交会对接技术作为服务航天器近距离操作的基础和前提,以其举足轻重的意义受到广泛关注。传统空间任务中针对合作航天器的交会对接技术目前已逐渐发展完善,而对非合作目标的交会、绕飞和接近跟踪等技术仍处于高速发展阶段,这为在轨服务航天器姿轨一体化技术提出了新要求。本论文立足于实际任务背景,紧密围绕航天器姿轨一体化建模与控制问题,重点研究了服务航天器对目标的姿轨一体化快速绕飞指向和接近跟踪两项关键控制技术。论文主要研究内容包括:针对在轨服务航天器姿轨一体化动力学建模问题,根据不同阶段的任务需求,分别结合四元数和欧拉角,建立了考虑自然耦合、控制输入耦合的视线坐标系下快速绕飞段和最后接近段六自由度动力学模型,并作为后续章节系统分析和控制设计的基础。针对在轨服务航天器对非合作目标的快速绕飞指向控制问题,从视线坐标系下两者相对运动方程入手,详细分析、比较了轨道面内和水平面内圆形快速绕飞的速度增量与绕飞半径、周期和轨道高度的关系;通过合理设计标称绕飞轨迹、解算期望姿态指向,将快速绕飞指向问题转化为对期望状态的跟踪问题,并建立绕飞段误差动力学方程;进而,考虑到系统中存在的复合干扰上界未知且难于估计,为了提高系统的快速性、鲁棒性,提出了一种基于二阶滑模干扰观测器的快速绕飞指向控制算法,并通过有限时间Lyapunov定理分析了闭环系统稳定性。针对在轨服务航天器对非合作目标的接近跟踪控制问题,给出了最后接近段误差动力学方程;考虑到实际系统中存在的状态约束问题,基于界限Lyapunov函数提出了一种全状态约束的最后接近跟踪控制算法,并与传统二次型形式Lyapunov函数方法进行了比较;考虑到控制输入饱和的情况,利用自适应方法估计干扰及饱和差值上界的平方值,设计了输入饱和情况下全状态约束接近跟踪控制算法;又考虑到该方法对饱和差值估计的局限性,进一步基于Anti-windup补偿思想设计了一种改进的饱和情况下全状态约束接近跟踪控制算法。通过数值仿真验证了上述控制算法的有效性。