无人直升机除了具有一般直升机能够垂直起降、空中悬停、原地转弯等特点外又具有低速飞行特性、机动性、灵活性和“零伤亡”等特点,这些独特的优势使其受到越来越多的关注。但是其飞行动力学复杂,是一个多变量、强耦合的非线性系统。这就对飞行控制系统提出了更高的要求,而优良的飞行控制系统设计需要一个能够真实反映直升机飞行运动的数学模型。本文首先以某型航模直升机为研究对象,提出了一种基于分析力学理论的直升机飞行动力学建模方法,应用第二类拉格朗日方程建立一个简化的三自由度直升机飞行动力学非线性数学模型。根据小扰动线化原理,对该非线性模型在平衡点进行了小扰动线性化处理,并针对线性化模型进行了PID控制律设计,应用MATLAB/Simulink对控制律作用于线性化模型和非线性模型分别进行了仿真验证,结果表明作用于线性模型具有良好控制效果的控制律尚不能有效控制非线性模型。由于非线性动力学系统的近似线性化模型难于全面反映非线性本质,导致以线性模型设计的控制律不能有效控制非线性模型,达不到系统控制要求。本文分别使用Backstepping方法和零动态方法设计了航模直升机非线性飞行动力学模型的镇定控制律。经Matlab/Simulink仿真验证表明利用这两种设计方法得到的控制律均能够对直升机动力学非线性数学模型进行有效控制。数学仿真验证结果仅仅在数学计算理论层面上说明了所设计控制算法的合理性,为了进一步验证闭环系统仿真的实时性,使用dSPACE实时仿真系统构建直升机飞行控制系统的快速控制原型,应用非线性动力学数学模型进行实时仿真验证,并将实时仿真结果与数学仿真结果进行对比验证,证明了控制律的有效性和合理性,并为下一步进行硬件在回路仿真和实物仿真工作打下了基础。