无人机由于具有巨大的民用和军用价值,受到了越来越多研究人员的重视,而能够垂直起降(Vertical Take-off and Landing)的旋翼无人机,以其独特的优势,成为了近些年控制领域的研究热点。但是,大多数垂直起降无人机的控制量数目少于系统的自由度,属于欠驱动非线性系统,而对于该类系统的控制一直很难找到一种普遍适用的方法。另外,许多此类无人机系统中还含有大量的不确定性,因此给其控制研究增加了更大的难度。本文对两种典型的欠驱动VTOL无人飞行器进行了非线性控制研究。这两种典型飞行器分别是能够近似简化分析直升机的垂直飞行(包括垂直起降,攀升,盘旋,降落等)的三自由度直升机和目前旋翼式无人机的研究热点——四旋翼无人机。对于三自由度直升机,本文采用了结合神经网络的非线性鲁棒控制策略,实现了三自由度直升机的三个自由度,即高度轴、俯仰轴和旋转轴的镇定和跟踪控制,同时这种控制方法对于系统模型存在的不确定性和可能承受的外界扰动能够给予补偿和有效抑制。由基于李雅普诺夫的稳定性证明可知,控制系统的跟踪误差均将渐近收敛于零。通过MATLAB仿真结果可以看出,系统实现了预定的控制目标,响应速度快,跟踪误差小,系统稳定性强。对于微小型四旋翼无人机,本文采用了自适应非线性鲁棒控制策略,使微小型四旋翼无人机以期望的偏航角到达给定位置,并镇定俯仰角和滚转角。对于微小型四旋翼无人机模型中存在的转动惯量和空气动力学参数不确定性,本文采用自适应控制方法有效地克服了该问题。从基于李雅普诺夫函数的稳定性证明可知,所设计的控制系统可使系统响应误差渐近收敛于零,实现有效的镇定控制。从MATLAB仿真结果可以看出,闭环系统实现了控制目标,取得了满意的控制效果。