倒立摆是一个典型的快速、多变量、非线性、强耦合的自然不稳定系统。倒立摆控制是一个经典的控制平衡问题，在控制过程中能反映控制理论中的许多关键问题，如镇定问题、非线性问题、鲁棒性问题以及跟踪问题等。倒立摆一直是控制理论与应用的热点问题。对倒立摆系统的研究在理论上和工程应用上具有深远的意义，相关的科研成果已经应用到航天科技和机器人等诸多领域。本文在深入研究倒立摆系统结构原理和借鉴国内外该领域最新研究成果的基础上，对倒立摆系统进行了建模分析和控制方法的研究。首先运用牛顿力学分析方法和分析力学中的Lagrange方程分别建立了一级、二级倒立摆系统的非线性数学模型，并在系统平衡点附近对系统模型进行了线性化处理，得到倒立摆系统的线性状态方程。模糊控制不需要建立被控对象的精确数学模型，只要求掌握操作人员或相关专家的经验、指示或者操作数据；而神经网络具有自学习能力。对于一级倒立摆，首先设计了模糊控制器，然后把模糊控制和神经网络控制相结合，设计了基于T-S模型的模糊神经网络控制器，利用神经网络对隶属度函数进行训练，使模糊控制具有自学习能力。分别对这两种控制方法进行仿真，结果表明T-S模糊神经网络控制器比模糊控制器具有更好的动态性能、稳态性能、抗干扰性和鲁棒性。对于二级倒立摆，有六个状态变量：小车位移、小车速度、下摆摆角、下摆角速度、上摆摆角和上摆角速度。利用线性系统理论设计融合函数，把小车位移、下摆摆角和上摆摆角合成为一个变量E，而把小车速度、下摆角速度和上摆角速度合成为一个变量EC，然后设计了Mamdani型模糊控制器，将多变量系统的模糊控制转化为少变量系统的模糊控制，大大减少了模糊控制规则数量，简化了模糊控制器的设计，成功解决了“规则爆炸”问题。对二级倒立摆进行仿真研究，模糊控制与LQR控制相比，模糊控制具有更好的动态性能、稳态性能和抗干扰性。