近年来,由于多智能体系统在工程控制领域,如无人机系统、分布式控制、传感器网络、无人车编队控制、卫星集群、机器人群体、蜂拥中的协同行为、人机合作等的广泛应用而受到众多研究者的密切关注。多智能体系统的一致性是研究多智能体系统的基础,作为多智能体协同控制的一个分支,编队控制由于其在实际系统中的广泛应用而成为研究热点。在控制系统的设计与分析研究中,由于系统自身或是外在因素的影响,系统会引入一些非线性量,这使得多智能体系统构成更为复杂,研究也更具挑战性。同时,对系统的高效低耗一直是设计者的需求。针对上述问题,本文主要研究非线性多智能体系统编队控制的分析和控制器设计问题,分别考虑了在无向和有向通讯拓扑结构对多智能体系统一致性的影响、有限时编队追踪和动态编队问题。主要内容包括:针对多智能体系统拓扑结构对系统一致性的影响,考虑非线性领导跟随多智能体系统一致性问题,基于代数图理论和李亚普诺夫稳定性理论等方法,设计了有限时间一致性控制协议,得到了系统在无向图和有向图中有限时间内达到一致性。针对编队跟踪控制中多智能体系统对收敛时间和外部干扰测量的需求,基于快速终端滑模控制和外部扩张观测器的方法,设计了有限时间编队控制协议,分别讨论了领导者在不同控制输入情况下的有限时间的编队跟踪控制问题。结果表明,在设计的控制协议作用下,所有的跟随者智能体能在有限时间内达到期望编队队形,并且所有的跟随者智能体能够在有限时间内能跟踪到领导者的运动轨迹。针对具有静态和动态的多智能体编队问题,利用代数图理论、李亚普诺夫函数法和现代控制理论等方法,对系统的稳定性进行分析,同时分别设计了相应的编队控制协议,在设计的控制协议下,实现了多智能体系统的静态和动态编队。