倒立摆系统作为一个被控对象具有非线性、强耦合、欠驱动、开环不稳定等典型特点,作为一个实验平台又具有设备简单、便于操作、实验效果直观等优点,越来越多的研究者将倒立摆系统作为衡量、测试、评估比较不同控制算法有效性的基准系统。有关倒立摆的控制原理也被应用航天、工程、机器人等各个领域中,针对倒立摆系统的控制主要包括起摆控制、稳定控制及轨迹跟踪控制。本文针对旋转式倒立摆系统的稳定控制问题和轨迹跟踪问题,进行了动力学建模与控制策略研究。本文主要内容如下:首先,在分析系统结构基础上利用拉格朗日方法进行了动力学建模,在系统状态零点附近对模型进行线性化处理得到线性化模型,同时进一步考虑系统内部不确定性及外部扰动得到了系统的非线性动力学模型。其次,针对线性化模型提出了带有自调整项的线性二次型最优控制(LQR)策略,使传统最优控制器的输出根据系统实际情况实现了在线调整,仿真结果表明,该控制器提高了闭环系统的动态性能和稳态性能;随后又通过Quanser公司旋转倒立摆实验平台对上述控制器进行了实验验证,能够成功的实现系统的稳定控制和轨迹跟踪控制。再次,针对传统滑模控制器趋近率设计造成的系统控制输出抖动现象提出了变增益滑模变结构控制策略,有效的削弱了抖动现象,同时还保留了滑模控制设计简便及鲁棒性强的突出特点,仿真结果表明所设计变增益滑模控制器提高了系统的动态特性,同时削弱了系统抖动。最后,提出了基于扩张状态观测器(ESO)的全局动态快速终端滑模控制,ESO用于观测系统存在的内部不确定性及外部扰动,并将观测值补偿到控制律中,提高了系统的抗干扰能力,而全局动态终端滑模成功的解决了常规滑模控制器所存在的抖振问题,同时进一步提高系统的稳定性和鲁棒性。仿真结果说明了所设计ESO-GTSMC控制器的有效性及优越性。