随着新技术、新工艺的不断出现和进步，直升机在军事和民用等方面都具有极其广泛的应用，直升机的更新换代也越来越频繁，但是由于直升机具有及其复杂的动力学特性和多变的飞行姿势，通常具有很多不确定的因素，不能用极其精确的数学模型进行描述，因此对其控制方法的研究显得尤为重要。本文以深圳固高科技有限公司生产的三自由度直升机模型为研究对象，进行控制算法及理论的研究，三自由度直升机是具备非线性、多变量等特征较为复杂的控制对象，一般来说其精确的数学模型难以获得，通过对系统控制、仿真可以加深对控制理论技术在复杂系统上研究应用。　　本文首先分析了直升机系统的构成原理，根据各个自由度运动特性进行系统建模，并选取适当的状态变量推导出系统的状态方程。针对被控对象的特点，对单一自由度运动设计了PID控制器，对三个自由度同时控制设计了解耦控制器，利用得到的状态方程研究了LQR控制器在直升机系统上的应用。接着引入优化算法中的遗传算法和粒子群算法。在介绍遗传算法的基础上，进行了遗传算法优化PID控制器参数的实验以及用遗传算法来优化LQR控制器的参数实验。介绍粒子群算法后，也将粒子群算法用到PID控制器参数的优化上，并与遗传算法优化得到的结果进行了比较。　　针对引入的模糊神经网络控制，其是将模糊和神经网络结合提出的一种智能控制算法。模糊神经网络汲取模糊控制和神经网络优点，具有强大的自学习和自整定功能，且有很强的辨识能力和跟踪控制能力。本文采用粒子群算法来优化模糊神经网络实现参数的快速、全局寻优。　　由于三自由度直升机系统本身比较复杂、同时对实时性的要求较高，为了达到预期的控制目标，检验控制算法在实时运行中的控制效果，需要付出庞大的开发量，基于MATLAB的硬件在回路中的仿真技术是实现现阶段这一需求的合理方法。最后利用ATLAB RTW（Real Time Work-shop）技术能够直接将Simulk牛成的仿真模型下载到目标实时内核中运行，驱动外部硬件设备，在线调整参数，编写S函数，在MATLAB RTW控制平台下进行实时控制仿真研究，实验结果表明控制算法的可行性，控制效果良好，具有较好的鲁棒性。