微小卫星编队飞行是近十年来航天领域的研究热点，具有广泛的应用前景。多目标编队的协同策略主要有主从式方法、基于行为的方法和虚拟结构方法，本文利用其中的两种协同策略分别设计卫星的轨道和姿态的协同控制律，实现编队构型的保持控制、编队的整体机动控制以及姿态的协同控制。引入对偶四元数将编队卫星的轨道和姿态模型统一描述，使轨道和姿态的协同控制律能够统一设计，在航天器动力学建模和控制领域应用中具有更好的优势。本文主要研究内容和创新成果如下：(1)分析了编队飞行卫星间的相对运动理论，建立了相对轨道动力学模型，给出了编队卫星绕飞条件。详细地阐述了姿态参数的描述方法，比较了各自的优缺点。建立了基于四元数法的相对姿态运动学及动力学模型。(2)利用主从式方法研究编队协同控制问题。以两颗卫星编队为例，提出了一种轨道LQR协同控制律，分析了系统的稳定性，仿真验证了在干扰存在的情况下，从星相对主星能够完成编队保持。采用一颗主星，两颗从星的主从式编队结构，提出了一种包含从星姿态以及从星相对主星的姿态协同控制律，在主星达到期望姿态的过程中，从星跟踪主星姿态，最终协同到期望姿态。分析了控制参数对姿态协同控制律的影响，并指出在干扰较强的情况下，不宜采用此协同控制律。(3)提出了一种利用虚拟结构方法进行整体协同控制的方法，把整个编队视为一个虚拟刚体，进行整体的控制或机动，并在机动过程中，保持编队构型。以三颗卫星编队为例，设计了虚拟结构的动力学和运动学控制器。动力学控制器包含编队队形的反馈，实现对编队速度的控制；针对外部干扰，设计了姿态变结构控制器。对于虚拟结构动力学控制，分别给出了有编队队形反馈和没有队形反馈的两种控制律，并进行了对比仿真验证，结果表明，没有队形反馈，编队不能很好地保持原始构型，而加入编队队形反馈后，误差显著减小，收敛速度加快，在机动过程中实现了编队构型保持不变。(4)应用对偶四元数研究微小卫星编队飞行问题。从几何的角度证明了对偶四元数能够完整得表示刚体运动中的旋转和平移，实现坐标变换。建立了基于对偶四元数的单颗卫星姿态运动学和姿态动力学方程，并在此基础上，以两颗卫星编队为例，推导了基于对偶四元数的相对运动学和动力学模型。(5)提出了一种基于对偶四元数的协同控制方法，将信息一致性理论应用到编队飞行控制问题中，设计了应用对偶四元数的协同控制律，对四颗卫星的位姿同步及位姿跟踪控制进行了仿真验证，结果显示均能在500秒以内实现位姿的同步和跟踪。(6)设计了一套编队卫星嵌入式仿真平台，利用四个PC104系统模拟编队中的卫星，给出了该系统卫星任务调度的流程，利用该系统可以用来验证编队控制算法和开发卫星管理软件。