海洋是人类赖以生存的第二空间。近年来，海洋资源勘探与开发以及海洋安全越来越受到人们的高度重视。由于无人艇（Unmanned Surface Vehicles, USV）在海洋探测、海洋环境监测以及海洋安全方面具有广泛的应用前景而成为国内外的研究热点。USV作为一种无人智能运载器，它的研究涉及到流体力学、结构力学、船型设计、系统工程、计算机科学、自动控制等诸多领域，因而对USV的研究既有较高理论意义，又有工程实用价值。在此研究背景下，本文重点研究了USV的运动控制问题。在USV的运动控制系统设计方面，以“XL”号USV为研究对象，主要探讨其系统体系结构、航速与航向控制（全驱动控制问题）、滤波方法等内容。为了满足USV在复杂海洋环境下进行无人自主作业的需要，基于脑基本功能联合区理论，设计了一种USV智能控制系统体系结构。在此架构下，进而提出了该USV的运动控制系统。在“XL”号USV控制器的设计中，充分考虑到该USV具有非线性、时滞性、不确定性和受到复杂海洋环境干扰等特点，引入了不依赖于严格数学模型的S面航速/航向控制方法。并针对舵泵系统存在的“舵角零点漂移”问题，提出了一种基于执行器补偿的改进S面控制方法。在“XL”号USV上进行了大量的外场试验，试验结果表明所设计的控制方法有效地解决了“舵角零点漂移”问题，具有良好的航速/航向跟踪控制性能，最终完成了无人自主航行任务，并验证了无人艇运动控制系统的可行性和有效性。在USV的欠驱动控制方面，主要针对镇定、路径跟踪和轨迹跟踪等控制问题，分别提出了相应的非线性控制策略，并在某USV数学模型上进行了数值仿真对比试验。文中将Backstepping设计法和滑模控制方法相结合，提出了适于一类单输入-输出不确定非线性系统的反步自适应动态滑模控制（Backstepping Adaptive Dynamic Sliding ModeControl，BADSMC）方法，以便于后续的控制器设计。同时提出了一种自适应人工鱼群算法（AdaptiveArtificial Fish Swarm Algorithm，AAFSA），并利用该方法进行控制参数的优化。仿真试验结果表明，该优化算法解决了USV欠驱动控制中存在参数调整困难的问题。针对欠驱动USV的镇定控制问题，首先利用级联系统分析方法将原系统的镇定问题简化为级联子系统的镇定问题，并借鉴变换法的思想，通过在状态反馈控制律中增加指数收敛控制项，提出了一种光滑时变状态反馈控制器。通过理论分析，可证明该控制器保证了系统的全局K指数稳定性。针对欠驱动USV的路径跟踪问题，并考虑到模型摄动和外界干扰等不确定性的影响。首先通过引入Serret-Frenet坐标系，在一定假设条件下，可将原单输入-三输出系统简化为单输入-双输出系统。然后基于BADSMC方法，提出了一种反步自适应动态滑模路径跟踪控制器。通过理论分析，可证明该控制器保证了系统的全局稳定性。针对欠驱动USV的轨迹跟踪问题，并考虑到模型摄动和外界干扰等不确定性的影响。利用虚拟USV产生的参考轨迹以获得USV轨迹跟踪误差系统，这将USV轨迹跟踪控制问题转化为误差系统的镇定控制问题。借鉴BADSMC方法，提出了一种反步自适应动态滑模轨迹跟踪控制器。通过理论分析，可证明该控制器保证了系统的解具有毕竟有界性，从而达到了轨迹跟踪控制目的。在某USV数学模型上，开展了大量仿真对比试验，仿真结果验证了上述非线性控制策略的有效性和鲁棒性，并具有良好的控制性能。