多智能体系统协同控制在多机器人编队、分布式传感器网络、多无人机协同作战以及分布式优化等方面具有广阔的应用前景,因而受到研究人员的广泛关注。近年来对该问题的研究无论从广度还是深度上都还在继续,但从理论研究走向实际应用的过程中还存在诸多挑战。论文将围绕着智能体模型,信息传输以及关联结构等三个关键要素去研究具有非线性动力学、量化通信以及结构约束情况下的多智能体系统协同控制问题,主要工作及创新点如下:针对有向拓扑结构,论文研究了有向边拉普拉斯矩阵及其对多智能体系统建模相关问题。论文首先拓展了边拉普拉斯矩阵的图论概念并深入探索其相关代数性质,使其能够用于描述有向图的边关联关系,并接着建立了基于边状态的多智能体系统模型。随后,深入揭示了多智能体系统本质上是由生成树和生成余树构成的互联反馈系统。最后,基于生成余树可由生成树经线性变换得到的观察对多智能体系统进行模型降阶。针对具有非线性动力学的多智能体系统,结合代数图论和环路小增益定理研究了在有向拓扑条件下局部利普希茨连续的二阶非线性多智能体系统一致性问题。结合基于边拉普拉斯矩阵建模的降阶多智能体系统并利用反步法将二阶非线性多智能体系统建模为反馈互联系统,随后设计分布式一致性协议保证每个子系统是输入状态稳定的并给出收敛需要满足的增益条件,最后通过使用环路小增益定理得出多智能体系统渐进稳定的结论。对于考虑量化通信条件下的多智能体系统,分别研究了静态量化和动态量化两种情况下的有向拓扑二阶多智能体系统一致性问题。对于使用均匀量化器和对数量化器的二阶多智能体系统,论文分析了达成量化一致性协议的收敛条件,并进一步揭示了收敛半径和收敛速度等性能指标与量化步长之间的具体数值关系。为进一步减小通信量并实现更高量化精度,论文接着探讨了动态量化二阶多智能体系统一致性问题,通过设计量化反馈一致性协议实现了二阶多智能体系统的渐进稳定性。受到海豚环绕捕获目标鱼群的生物学启发,论文结合方位刚性理论探索了仿生多智能体协同环绕围捕控制问题和环航控制问题。首先通过使用方位刚性图论将协同环绕捕获控制问题等同于受到时变方位约束的目标编队。进而,为实现多智能体编队环绕移动目标运行并同时使编队尺度逐渐收缩的环绕围捕机制,论文通过引入正交投影算子设计了分布式环绕围捕控制律。然后,结合李雅普诺夫方法和小增益定理分别针对环绕围捕控制中编队环绕,编队跟踪和编队收缩三项控制任务进行稳定性分析。在环绕围捕控制的基础上引入与目标之间的距离约束来设计相应的分布式环航控制律,最终实现多智能体编队以给定半径环绕某个目标区域或者移动目标运行的环航任务。最后结合数值仿真与实物多机器人系统实验验证环绕围捕控制律和环航控制律的有效性。