近年来,微小卫星发展迅速,不再局限于试验卫星阶段。微小卫星因其研制的成本低、速度快,在工程中应用的越来越广泛。微小卫星的系统同大型卫星一样是一个复杂的系统,其中姿态控制系统是微小卫星在轨稳定运行的保障。随着微小卫星任务复杂度逐渐上升,对微小卫星的控制系统要求也越来越高。而姿态系统的研究重点是姿态控制律的研究,它是实现卫星高精度与高稳定度在轨运行的保障。本文以某近地轨道对地观测微小卫星为背景,为了实现卫星在轨运行期间的三轴稳定,对姿态控制系统的控制器部分进行了研究。本文研究的微小卫星控制系统只采用磁力矩器作为执行机构,因主要是对控制器部分进行研究,忽略姿态确定部分的研究。本文主要针对微小卫星小角度摄动、大角度机动的情况进行控制器的研究,并且考虑到空间未知干扰的情况。根据磁力矩器在轨期间控制力矩受限的特点进行磁补偿设计。针对任务卫星进行基础比例微分(Proportion Derivative,PD)控制器设计,并通过四元数标量改进为拟PD控制器,并分析其优缺点。根据卫星小角度摄动,在平衡点处线性化卫星模型,在线性化模型的基础上设计能离线计算的线性二次型调节器(Linear Quadratic Regulator,LQR)控制律,此控制律可减小星载计算机的负载。数学仿真表明,拟PD控制器与LQR控制器都能使微小卫星姿态稳定,具有一定的工程性与实用性。本文针对微小卫星的大角度机动,设计了响应速度快、鲁棒性强的滑模控制器。因转动惯量难以精确测得并且考虑到空间存在未知干扰的情况,改进了滑模变结构控制。根据状态观测器可以估计状态变量的原理,在滑模控制的基础上设计了滑模扩张观测器控制律。通过扩张观测器良好的估计性能,对姿态控制系统进行了动态补偿。依次对滑模变结构控制以及滑模扩张观测器控制仿真分析,结果表明滑模及改进算法的稳定精度高,稳定实间短,并且滑模扩张观测器具有良好的抗干扰能力。