四旋翼倒立摆系统由一级倒立摆以及四旋翼无人机构成,在保留倒立摆系统多变量、强耦合、自然不稳定等特点的基础上,引入了四旋翼无人机模型的不确定性,是一种新型的复杂被控系统,具有广阔的应用前景和重要的研究价值。本文针对四旋翼倒立摆系统的稳定控制问题,利用多种方法取得了良好的控制效果。本文的主要研究内容如下:（1）针对四旋翼倒立摆系统进行动力学分析,建立了系统的数学模型。分别对倒立摆系统和四旋翼无人机系统进行建模,根据两个模型在空间坐标系上的联系,推导出了四旋翼倒立摆系统的总体模型,通过在平衡点处做线性化处理,得到了系统的线性化模型。（2）研究分析了广义预测控制算法和自抗扰控制算法的相关原理,针对广义预测控制算法的不足,提出了变增益控制的方法,有效提高了该算法的控制性能。在此基础上,引入了自抗扰广义预测控制算法,该算法结合了广义预测控制和自抗扰控制的优点,并弥补了两种算法的缺陷。通过自抗扰控制和自抗扰广义预测控制应用在一级旋转倒立摆系统中的实验,证明了自抗扰广义预测控制器对此类系统拥有优良的控制性能。（3）设计了四旋翼倒立摆系统的串级叠加控制结构,完成了系统的稳定控制。通过系统分块控制的方式,将系统分为位置模块与姿态模块两部分。将四旋翼位置系统与倒立摆系统结合组成系统位置模块,并采用叠加控制的方式,利用PD控制器实现位置模块的稳定控制;将四旋翼姿态系统单独控制,作为系统的姿态模块,分别利用PD控制、自抗扰控制、自抗扰广义预测控制完成对姿态模块的稳定控制。将两个模块通过串级控制的方式进行融合,整定系统参数,完成了对四旋翼倒立摆系统的稳定控制,并对比了系统融合后三种算法的控制效果,证明PD控制与自抗扰广义预测控制的组合算法对系统拥有更好的控制性能。