与其他飞行器相比小型无人直升机具有垂直起降、空中悬停、协调转弯、体积小、重量轻、价格便宜以及隐蔽性强等优点。因而小型无人直升机在军事及民用领域具有广阔的应用潜力。但是，小型无人直升机是一个欠驱动、强耦合、不稳定、时变的高阶非线性系统，对其自主飞行控制的设计仍具有很大的挑战。因此，研究小型无人直升机的自主飞行控制设计问题具有重大科学意义。本文主要采用理论分析和数值仿真相结合的方法，对小型无人直升机的简化模型与鲁棒非线性控制器设计进行了研究。首先，本文建立了小型无人直升机14阶非线性数学模型，并将其简化成更简单的线性参数可变（LPV）模型和含有组合干扰的非线性模型以满足控制器设计的需要。其次，针对线性控制方法的不足，文中利用已建立的小型无人直升机简化LPV模型，提出了一种基于局部H_∞最优LPV速度(LHOV)控制的小型无人直升机LPV控制方法。再次，考虑到LPV方法存在轨迹跟踪效果较差的缺点，本文基于含有组合干扰的非线性模型利用自适应反步法设计了飞行控制器，并对其稳定性进行了理论证明和仿真分析；然而，反步法存在的“微分爆炸”问题，本文进一步提出了一种鲁棒积分滤波反步法，极大地简化了计算量。最后，针对鲁棒积分滤波反步法中过多地使用滤波器近似求导可能引起测量高频噪声放大的问题，本文为无人直升机提出了一种具有内外环结构的基于干扰补偿的鲁棒非线性控制方法。该方法既减小了滤波器求导的次数从而消弱了放大测量高频噪声的可能，又简化了计算量从而方便了参数调整。本文研究工作的主要内容和创新点包括以下几个方面：1、介绍了国内外小型无人直升机的研究现状，并重点对小型无人直升机飞行控制技术的研究现状进行了阐述与分析。2、分析了小型无人直升机的动力学特性，建立了小型无人直升机14阶全状态非线性数学模型，并结合控制器设计的需要，将其简化成了更简单的LPV模型和含有组合干扰的非线性模型。3、第三章利用第二章建立的小型无人直升机简化LPV模型，为水平面飞行设计了一种局部H_∞最优LPV速度控制方法。该方法不仅具有局部H_∞最优功能，即能保证闭环系统进入任意一个固定速度飞行模式后获得H_∞性能最优，还能保证大范围鲁棒稳定。4、提出了一种自适应反步控制方法。该方法采用自适应律对组合干扰进行在线估计，并将估计值应用于反步法控制器设计中，从而起到补偿干扰，提高闭环系统的鲁棒性和轨迹跟踪性能的作用。5、考虑自适应反步法计算量过大的问题，第五章提出了一种基于鲁棒积分滤波反步法的飞行控制方法。该方法运用滤波器近似求导，极大地简化了计算量。同时，该方法运用积分项和不连续的鲁棒项来提高闭环系统的抗干扰能力，消除轨迹跟踪静态误差，获得了很好的轨迹跟踪性能。6、提出一种基于干扰补偿的鲁棒非线性控制方法.该方法运用动态面控制技术，解决了常规反步法计算量过大、参数调整对输出不敏感的问题；采用内外环结构，解决了滤波反步法抗测量干扰能力不足的问题；采用加速度测量信号重构机体坐标下X和Y方向的外力干扰、非线性观测器观测力矩干扰以及误差积分补偿垂向干扰的方式获得了比自适应反步法、鲁棒积分反步法更好的鲁棒性和抗干扰能力。本文最后，在总结全文的基础上，提出了有待进一步研究和探索的一些问题。